Llama 3.2
Naghatid ang Llama 3.2 ng dalawang napakaliit na text model para sa phones at laptops, pati ang mga unang Llama vision model ng Meta. Wala ito sa chat namin, ngunit narito ang detalye kung saan ito makukuha.
Ano ang Llama 3.2 at sino ang gumawa nito
Ang Llama 3.2 ay isang set ng mga model na inilabas ng Meta noong Setyembre 25, 2024. Dalawang direksyon ang tinahak nito nang sabay. Sa isang banda, may dalawang napakaliit na text model, ang Llama 3.2 1B at 3B, na idinisenyo para tumakbo sa mga phone, laptop, at iba pang device na may limitadong computing power. Sa kabilang banda naman ay ang mga kauna-unahang Llama vision model ng Meta, ang Llama 3.2 11B Vision at 90B Vision, na tumatanggap ng imahe kasama ang text at sumasagot gamit ang text. Lahat ng ito ay mada-download sa ilalim ng Llama 3.2 Community License.
Ang pamilya ng Llama 3.2
Llama 3.2 1B at 3B (text)
Ayon sa model card ng Meta, ang 1B model ay may humigit-kumulang 1.23 bilyong parameters, parehong sumusuporta ang dalawang maliliit na model sa 128K context window, at sinanay ang mga ito sa hanggang 9 na trilyong tokens gamit ang data hanggang Disyembre 2023. Binuo ito ng Meta sa pamamagitan ng pagkatuto mula sa outputs ng mas malalaking model na Llama 3.1 8B at 70B gamit ang diskarteng tinatawag na knowledge distillation. Inililista ng Meta ang mga nilalayong gamit tulad ng assistant-like chat, knowledge retrieval, summarization, writing assistants sa mobile devices, at muling pagsulat ng mga query at prompt.
Naglabas din ang Meta ng mga quantized version ng 1B at 3B, na siksik para tumakbo sa mga processor ng phone na may mas kaunting memory. May mas maikling context window na 8K tokens ang mga quantized version na ito.
Llama 3.2 11B at 90B Vision
Binuo ang mga vision model sa ibabaw ng Llama 3.1 text model gamit ang hiwalay na sinanay na vision adapter, na nagpapadala ng nakikita ng image encoder patungo sa language model. Inililista ng Meta ang visual recognition, image reasoning, captioning, at pagsagot sa pangkalahatang katanungan tungkol sa larawan bilang pangunahing gamit ng mga ito, na may 128K context window. Isang mahalagang detalye: para sa mga gawaing pinagsasama ang imahe at text, Ingles lamang ang opisyal na sinusuportahang wika.
Saan magaling ang Llama 3.2
- On-device AI. Sapat ang liit ng 1B at 3B models para sa mga phone at magagaan na laptop, kaya maaaring gumana nang offline ang mga app at mananatili ang data sa mismong device.
- Mabilis at murang text tasks. Mga summary, rewrite, classification, at maikling sagot kung saan sobra-sobra na ang isang malaking model.
- Pag-unawa sa imahe sa wikang Ingles. Kayang ilarawan ng mga vision model ang mga litrato, magbasa ng charts at dokumento, at sumagot sa mga tanong tungkol sa mga larawan.
- Mga eksperimento at pag-aaral. Patok ang maliliit na model bilang unang hakbang para sa mga sumusubok ng local AI o fine-tuning sa unang pagkakataon.
Walong wika ang opisyal na sinusuportahan para sa text: Ingles, German, Pranses, Italyano, Portuges, Hindi, Espanyol, at Thai.
Mga limitasyong dapat malaman
- Maliit, kaya limitado. Mas kaunti ang alam ng 1B at 3B models kumpara sa mas malalaking model at mas madalas magkamali sa mga katotohanan at pangangatwiran. Mismong ang Meta ang nagsabi na inilaan ang mga ito para sa mga environment na may matinding limitasyon tulad ng mga mobile device.
- Mas lumang kaalaman. Nagtatapos ang training data noong Disyembre 2023.
- Ingles lamang ang vision para sa mga gawaing may kombinasyon ng larawan at text, at hindi rin nakakagawa ng bagong imahe ang mga vision model.
- Restriksyon sa EU para sa vision models. Isinasaad sa acceptable use policy ng Meta para sa Llama 3.2 na ang mga karapatan sa lisensya para sa mga multimodal model nito ay hindi ipinagkakaloob sa mga indibidwal na naninirahan sa, o mga kumpanyang nakabase sa, European Union. Hindi apektado ang mga end user ng produktong mayroon nang ganitong mga model. Ang 1B at 3B text models ay hindi multimodal.
- Napalitan na para sa mga larawan. Likas nang nagbabasa ng mga larawan ang Llama 4 Scout at Maverick at sumusuporta sa mas maraming wika.
Paano opisyal na makukuha ang Llama 3.2
Inilalathala ng Meta ang lahat ng Llama 3.2 model sa Hugging Face sa ilalim ng organisasyong meta-llama, halimbawa ang meta-llama/Llama-3.2-3B-Instruct at meta-llama/Llama-3.2-11B-Vision-Instruct. Tanggapin ang lisensya sa page ng model para ma-unlock ang mga file. Ang vision model card ay makikita rito.
Para sa local na paggamit, iniaalok ng Ollama ang maliliit na model: dina-download ng ollama run llama3.2 ang 3B version (mga 2.0 GB) at ng ollama run llama3.2:1b ang 1B version (mga 1.3 GB). Gumagana rin ang mga ito sa LM Studio at llama.cpp; tingnan ang pagpapatakbo ng Llama nang locally.
Sa pamamagitan ng cloud APIs, nakalista sa OpenRouter ang Llama 3.2 1B sa halagang $0.027 input at $0.201 output kada milyong tokens, at ang Llama 3.2 3B naman sa $0.0509 input at $0.335 output kada milyong tokens (list price ng OpenRouter, Okt 2026). Ipinapakita sa aming gabay sa API kung paano mag-call ng Llama models.
Kapareho rin ang diwa ng mga tuntunin sa lisensya sa iba pang bersyon ng Llama: "Built with Llama", ang acceptable use policy, at ang patakaran sa 700 milyong monthly active users. Ipinaliliwanag ang mga ito sa aming page ng lisensya.
Mga paalala sa privacy
Ang pangunahing bentahe sa privacy ng Llama 3.2 ay ang kakayahan ng maliliit na model na tumakbo nang buo sa iyong device, kaya walang data na lumalabas sa iyong phone o computer. Kung gagamitin mo ang mga ito sa pamamagitan ng isang cloud provider, ang mga tuntunin sa privacy ng provider ang mangingibabaw.
Paghahambing sa Llama 3.2
Kumpara sa Llama 3.1 8B, mas maliit at mas magaan ang 3B model ngunit hindi kasing husay. Kumpara naman sa Llama 4, mas luma ang 3.2 vision models, mas kaunting wika ang sinusuportahan para sa mga larawan, at may parehong sugnay ukol sa EU, samantalang likas na kayang magproseso ng mga larawan ang mga pangunahing model ng Llama 4. Kung nais mo lamang magtanong tungkol sa isang litrato, ang aming chat gamit ang Llama 4 ang pinakasimpleng opsyon. Ang buong talaan ng mga inilabas na bersyon ay nasa kasaysayan ng Llama.
FAQ
Maaari ko bang gamitin ang Llama 3.2 sa Llama.Online chat?
Hindi, wala ang Llama 3.2 sa aming chat. Gamitin ang Llama 4 Maverick o Scout para sa mga larawan at Llama 3.1 8B para sa mabilisang text answers.
Kaya bang tumakbo ng Llama 3.2 sa isang phone?
Idinisenyo ang 1B at 3B models para doon, lalo na ang mga quantized version na inilabas ng Meta para sa mga mobile processor. Kakailanganin mo ng app na sumusuporta sa mga local model.
Aling Llama 3.2 models ang nakakakita ng mga larawan?
Tanging ang 11B at 90B Vision models lamang. Para sa text lamang ang 1B at 3B models.
Maaari bang gamitin ng mga tao sa EU ang Llama 3.2?
Oo para sa mga text model, alinsunod sa lisensya. Para sa mga vision model, hindi ipinagkakaloob ng patakaran ng Meta ang mga karapatan sa lisensya sa mga tao at kumpanyang nakabase sa EU, ngunit hindi apektado ang mga end user ng mga produktong binuo gamit ang mga ito. Pangkalahatang impormasyon lamang ito at hindi payong legal.
Itanong ang una mong tanong sa Llama
Walang kailangang account o i-install. Buksan lang ang chat, mag-type, at tuklasin kung ano ang kayang gawin ng Llama.
Buksan ang Llama chat