Paano gumagana ang mga large language model tulad ng Llama

Kapag nag-type ka ng tanong sa chat, hindi hinahanap ng Llama ang sagot sa kung saanman. Isinusulat nito ang sagot nang paunti-unti, batay sa mga pattern na natutunan nito sa training. Ang pag-unawa sa simpleng ideyang ito ang nagpapaliwanag kung bakit magaling ang large language models (LLMs) sa maraming bagay at kung bakit sila nagkakamali. Ipinapaliwanag ng gabay na ito kung paano sila gumagana, nang walang math, gamit ang Llama models sa aming chat bilang mga halimbawa.

Tokens: paano nagbabasa ng text ang isang model

Hindi nakakakita ng mga titik o buong salita ang language models. Hinahati ang text sa tokens: ang karaniwang salita ay kadalasang isang token, ang mas mahahaba o bihirang salita ay nahahati sa piraso, at binibilang din ang bantas. Ang bawat token ay ginagawang listahan ng mga numero na kayang kalkulahin ng model.

Ipinapaliwanag ng tokens ang ilang kakaibang gawi nito. Tanungin ang model kung ilang beses lumabas ang titik na "r" sa isang mahabang salita, o i-spell ang isang salita nang pabaligtad, at posibleng magkamali ito, dahil hindi naman talaga nito nakita ang magkakahiwalay na titik sa simula pa lang. Tokens din ang dahilan kung bakit ang mga limitasyon (gaano karaming text ang kayang basahin ng model, gaano kahaba ang sagot) ay sinusukat sa tokens sa halip na mga salita. Ang mga wikang nangangailangan ng mas maraming token bawat pangungusap ay mas mabilis na umaabot sa mga limitasyong ito.

Panghuhula: paisa-isang token

Sa pinakapuso nito, iisa lang ang ginagawa ng LLM: batay sa nabasa nitong text hanggang sa puntong iyon, tinatantya nito kung gaano kalaki ang tsansa ng bawat posibleng kasunod na token. Pipili ito ng isa, idaragdag ito sa text, at uulitin ang proseso. Ang isang mahabang sagot ay binubuo ng daan-daan o libu-libo sa mga hakbang na ito.

Hindi palaging pinipili ng model ang token na may pinakamataas na tsansa. Ang kaunting kontroladong randomness, na karaniwang itinatakda ng parameter na tinatawag na temperature, ang nagpapanatili sa mga sagot na iba-iba at natural pakinggan. Kaya naman nag-iiba ang mga salitang ginagamit sa parehong tanong sa bawat pagkakataon, at kung bakit ang pag-regenerate ay maaaring magbigay ng mas magandang sagot.

Training: mula text predictor patungong assistant

Pre-training

Una, nagbabasa ang model ng napakalaking dami ng text at natututong hulaan ang susunod na token. Inilalarawan ng model cards ng Meta ang pre-training data para sa Llama 3.3 at 3.1 bilang "isang bagong halo ng publicly available online data" na may mahigit 15 trilyong tokens. Ang Llama 4 naman ay sinanay sa pinaghalong publicly available at lisensyadong data kasama ang impormasyon mula sa mga produkto ng Meta, humigit-kumulang 40 trilyong tokens para sa Scout at 22 trilyon para sa Maverick. Sa prosesong ito, natututunan ng model ang balarila, mga katotohanan, estilo, code, at mga pattern ng pangangatwiran, dahil nakatutulong ang lahat ng ito upang makapanghula ito nang mas tumpak.

Instruction tuning

Ang isang purong predictor ay nagpapatuloy lang ng text; hindi ito sumasagot sa mga tanong sa kapaki-pakinabang na paraan. Kaya naman sinasanay pa ang model sa mga halimbawa ng mga tagubilin na may magagandang tugon, at sa feedback mula sa mga tao kung aling mga sagot ang mas maayos. Tinatawag ng mga Llama 3.x model card ng Meta ang mga hakbang na ito na supervised fine-tuning (SFT) at reinforcement learning with human feedback (RLHF). Ang resulta ay ang "Instruct" na bersyon na ka-chat mo.

Ang knowledge cut-off

Humihinto ang training data sa isang partikular na petsa, at walang alam ang model pagkatapos niyon. Ayon sa mga model card ng Meta, ang cut-off ay Agosto 2024 para sa Llama 4 Maverick at Scout, at Disyembre 2023 para sa Llama 3.3 70B at Llama 3.1 8B. Magtanong ng kahit ano pagkatapos ng mga petsang iyon at sasabihin ng model na hindi nito alam o, mas malala, manghuhula ito. Walang web access ang aming chat para punan ang kakulangang iyon.

Context: ang working memory ng model

Lahat ng isinasaalang-alang ng model habang sumusulat ng sagot (ang mga tagubilin, ang takbo ng pag-uusap, at ang iyong bagong mensahe) ay tinatawag na context nito. Wala itong alaala lampas dito. Kapag nagsimula ka ng bagong chat, walang alam ang model tungkol sa mga nauna mong pag-uusap.

Ang pinakamalaking kapasidad nito ay ang context window, na sinusukat sa tokens. Nakatala sa mga model card ng Meta ang 128K tokens para sa Llama 3.3 at 3.1, 1M para sa Llama 4 Maverick, at 10M para sa Llama 4 Scout; ang provider na ginagamit namin ay nag-aalok ng humigit-kumulang 524K para sa Maverick at humigit-kumulang 1.3M para sa Scout. Nagpapadala ang aming chat ng mas maikling bahagi ng bawat pag-uusap upang mapanatiling mabilis ang mga sagot, kaya naman ang mga pinakaunang mensahe sa isang mahabang chat ay maaaring mawalan na ng impluwensya sa mga sumusunod na sagot.

Mixture of experts: paano binuo ang Llama 4

Ang Llama 3 models ay dense: bawat parameter (ang mga natutunang numero sa loob ng model) ay ginagamit para sa bawat token. Gumagamit naman ang Llama 4 ng mixture-of-experts na disenyo. Naglalaman ang model ng maraming dalubhasang sub-network na tinatawag na experts, at para sa bawat token, ilan lamang sa kanila ang ginagamit. Ibinibigay ng model card ng Meta ang mga datos: ang Llama 4 Scout ay may 17 bilyong active parameters mula sa 109 bilyon sa kabuuan, na may 16 na experts; ang Llama 4 Maverick ay may 17 bilyong active mula sa 400 bilyon, na may 128 experts. Ang bentahe nito ay isang model na nakakapag-imbak ng maraming kaalaman ngunit mas mababa ang gastos sa pagpapatakbo bawat token kumpara sa isang dense model na may parehong kabuuang laki.

Ang Llama 4 ay natively multimodal din. Inilalarawan ng Meta ang "early fusion": pinoproseso nang magkasama ang text at mga larawan sa iisang model sa halip na gumamit ng hiwalay na add-on. Kaya naman kayang sagutin ng Maverick at Scout ang mga tanong tungkol sa larawang i-attach mo, samantalang ang text-only na Llama 3 models ay hindi.

Bakit nag-iimbento ng mga impormasyon ang models

Sinasanay ang isang language model na gumawa ng kapani-paniwalang text, hindi para suriin kung totoo ito. Kapag kabisado nito ang isang katotohanan, nagtutugma ang kapani-paniwala at totoo. Kapag hindi (isang bihirang pangalan, eksaktong numero, kamakailang pangyayari, o citation), gumagawa pa rin ito ng tekstong mukhang tama. Karaniwan itong tinatawag na hallucination. Hindi ito nagsisinungaling: walang hiwalay na database ng mga katotohanan ang model na maaari nitong sangguniin.

• Ang mga eksaktong numero, petsa, quote, at references ang may pinakamalaking posibilidad na maging mali.
• Ang pagtatanong ng "sigurado ka ba?" ay maaaring magbunsod ng pagtatama, o paghingi ng tawad para sa isang bagay na tama naman. Hindi ito maaasahang pagsubok.
• Ang pagbibigay sa model ng source text at pag-utos dito na ibatay lamang doon ang sagot ay karaniwang nagpapababa ng mga pagkakamali.

Makikita mo ang pagkakaiba sa dalawang bersyon ng parehong kahilingan:

Mula sa alaala (mas delikado):
Kailan itinatag ang aklatan ng bayan sa [aking bayan], at sino ang nagpondo rito?

Mula sa sanggunian (mas ligtas):
Gamit lamang ang teksto sa ibaba, sabihin kung kailan itinatag ang aklatan
at sino ang nagpondo rito. Kung hindi sinasabi sa teksto, isagot ang "hindi nakasaad".
"""
[i-paste ang talata mula sa mismong website ng aklatan]
"""

Sa unang sitwasyon, malamang na kakaunti o walang nabasa ang model tungkol sa inyong lokal na aklatan at maaaring magbigay ito ng kumpiyansang hula. Sa pangalawa, nasa context na nito ang mga katotohanan, kaya babasahin na lang ito. Ganito rin gumana ang summarizer: sumasagot ito batay sa text na ibinigay mo.

Ginagawang praktikal na hakbang ng aming gabay sa pag-fact-check sa mga sagot ng AI ang prosesong ito.

Ang ibig sabihin nito kapag ginagamit mo ang chat

Para makita ang mga ideyang ito sa aktwal na paggamit, hilingin sa Llama na ipaliwanag ang sarili nito. Para sa teknik sa pag-prompt, basahin ang gabay kung paano sumulat ng mga prompt; para sa mga mismong model, tingnan ang kung ano ang Llama at ang kasaysayan ng pamilya ng Llama.

FAQ

Naiintindihan ba ng Llama ang sinasabi nito?

Depende iyon sa kahulugan mo ng "pag-intindi", at hindi nagkakasundo ang mga researcher dito. Sa praktikal na aspeto, sapat ang pagkaunawa nito sa kahulugan upang magbuod, magsalin, at mag-isip sa maraming problema, ngunit maaari itong mabigo sa mga bagay na napakadali para sa isang bata. Suriin ito batay sa resulta ng gawa nito, hindi sa kung gaano ito kahusay pakinggan.

Natututo ba ito mula sa aking mga pag-uusap?

Hindi. Hindi nagbabago ang parameters ng model habang nakikipag-chat ka. Sa loob ng isang pag-uusap, ginagamit nito ang iyong sinabi bilang context; kapag nagsimula ka ng bagong chat, mawawala na ang context na iyon.

Ano ang pagkakaiba ng Llama at ChatGPT?

Parehong nakabatay ang mga ito sa large language models na binuo sa magkatulad na mga prinsipyo. Ang Llama ay isang pamilya ng mga model na gawa ng Meta at inilabas na may open weights sa ilalim ng lisensya ng Meta, kaya maaaring i-download at patakbuhin ito ng kahit sino; ang ChatGPT naman ay app ng OpenAI, na nagpapatakbo ng mga model ng OpenAI bilang isang hosted service. Tingnan ang Llama vs ChatGPT.

Ano ang parameters?

Ang mga ito ang mga numero sa loob ng model na inaayos habang nagsasanay ito. Ang mas maraming parameters ay kayang mag-imbak ng mas maraming pattern ngunit nangangailangan ng mas malakas na computing power. Hindi lang laki ang nagtatakda ng kalidad; mahalaga rin ang training data at tuning.

Bakit ilang models lang ang tumatanggap ng mga larawan?

Ang Llama 4 Maverick at Scout ay sinanay sa text at mga larawan nang magkasama. Ang Llama 3.3 70B at Llama 3.1 8B ay pawang mga text-only model, kaya hindi sila nakakakita ng mga larawan. Inihahambing ng aming gabay sa pagpili ng tamang Llama model ang apat na ito.