Jak fungují velké jazykové modely jako Llama

Když do chatu napíšete otázku, Llama si odpověď nikde nevyhledává. Píše ji po malých kouscích na základě vzorců, které se naučila během trénování. Pochopení tohoto jediného principu vysvětluje většinu toho, v čem velké jazykové modely (LLM) excelují, i většinu způsobů, jakými selhávají. Tento průvodce vám bez jakékoli matematiky ukáže, jak fungují – jako příklad poslouží modely Llama v našem chatu.

Tokeny: jak model čte text

Jazykové modely nevidí písmena ani celá slova. Text se dělí na tokeny: běžné slovo často tvoří jediný token, delší nebo vzácnější slova se dělí na více částí a započítává se i interpunkce. Každý token je převeden na seznam čísel, se kterými pak model dokáže počítat.

Tokeny vysvětlují některé zvláštnosti v chování modelu. Zeptejte se ho, kolikrát se v dlouhém slově vyskytuje písmeno „r“, nebo ho nechte hláskovat slovo pozpátku, a dost možná udělá chybu – jednotlivá písmena totiž od začátku vůbec neviděl. Kvůli tokenům se také veškeré limity (kolik textu model přečte, jak dlouhá může být odpověď) měří v tokenech, nikoli ve slovech. Jazyky, které potřebují více tokenů na větu, dosáhnou těchto limitů dříve.

Predikce: jeden token za druhým

Ve svém jádru dělá LLM jedinou věc: na základě dosavadního textu odhaduje pravděpodobnost každého možného následujícího tokenu. Vybere jeden, přidá ho k textu a celý proces opakuje. Dlouhá odpověď se skládá ze stovek či tisíců těchto dílčích kroků.

Model nevybírá vždy ten úplně nejpravděpodobnější token. Určitá míra řízené náhodnosti, obvykle nastavovaná parametrem zvaným teplota (temperature), udržuje odpovědi pestré a přirozené. Proto tatáž otázka vygeneruje pokaždé trochu jiné znění a kliknutí na tlačítko pro opětovné vygenerování může přinést lepší výsledek.

Trénování: od prediktoru textu k asistentovi

Předtrénování (Pre-training)

Model nejprve přečte obrovské množství textu a učí se předpovídat následující token. Modelové karty společnosti Meta popisují data pro předtrénování modelů Llama 3.3 a 3.1 jako „nový mix veřejně dostupných online dat“ o objemu více než 15 bilionů tokenů. Llama 4 byla trénována na směsi veřejně dostupných a licencovaných dat i informací z produktů společnosti Meta – zhruba 40 bilionů tokenů pro verzi Scout a 22 bilionů pro verzi Maverick. Během tohoto procesu model vstřebává gramatiku, fakta, styly, programový kód i způsoby uvažování, protože mu to vše pomáhá lépe předvídat.

Ladění instrukcí (Instruction tuning)

Surový prediktor pouze pokračuje v textu – nedokáže vám užitečně odpovědět na otázku. Proto se model dále trénuje na příkladech instrukcí s kvalitními odpověďmi a na zpětné vazbě od lidí, kteří hodnotí, které odpovědi jsou lepší. V modelových kartách Meta pro řadu Llama 3.x se tyto kroky označují jako supervised fine-tuning (SFT) a reinforcement learning with human feedback (RLHF). Výsledkem je verze „Instruct“, se kterou si můžete psát.

Znalostní uzávěrka (Knowledge cut-off)

Trénovací data končí k určitému datu a o ničem, co se stalo později, model neví. Podle modelových karet společnosti Meta je tato uzávěrka v srpnu 2024 pro modely Llama 4 Maverick a Scout a v prosinci 2023 pro Llama 3.3 70B a Llama 3.1 8B. Pokud se zeptáte na cokoli z novější doby, model buď řekne, že to neví, nebo – což je horší – začne hádat. Náš chat nemá přístup k webu, aby tyto chybějící informace dohledal.

Kontext: operační paměť modelu

Všechno, co model při psaní odpovědi zohledňuje (systémové pokyny, dosavadní průběh konverzace a vaše nová zpráva), se nazývá kontext. Žádnou jinou paměť kromě tohoto rámce nemá. Jakmile založíte nový chat, model o vašich předchozích konverzacích neví vůbec nic.

Maximální velikost kontextu se nazývá kontextové okno a měří se v tokenech. V modelových kartách Meta se uvádí 128 tisíc tokenů pro Llama 3.3 a 3.1, 1 milion pro Llama 4 Maverick a 10 milionů pro Llama 4 Scout. Námi využívaný poskytovatel nabízí přibližně 524 tisíc tokenů pro Maverick a zhruba 1,3 milionu pro Scout. Náš chat posílá pouze kratší výsek každé konverzace, aby odpovědi zůstaly rychlé – proto velmi staré zprávy v dlouhém chatu mohou postupně přestat ovlivňovat nové odpovědi.

Mixture of experts: jak je postavena Llama 4

Modely řady Llama 3 jsou „husté“ (dense): pro každý jednotlivý token se využije úplně každý parametr (naučená čísla uvnitř modelu). Llama 4 místo toho sází na architekturu mixture-of-experts. Model obsahuje mnoho specializovaných podsítí, takzvaných expertů, a pro každý token se aktivují jen někteří z nich. Modelová karta společnosti Meta uvádí přesná čísla: Llama 4 Scout má 17 miliard aktivních parametrů z celkových 109 miliard při 16 expertech; Llama 4 Maverick má 17 miliard aktivních parametrů ze 400 miliard při 128 expertech. Výhodou je model, který uchovává obrovské množství znalostí, ale jeho provoz na jeden token stojí méně než u stejně velkého hustého modelu.

Llama 4 je navíc nativně multimodální. Meta tento princip popisuje jako „early fusion“: text a obrázky zpracovává společně jeden model namísto toho, aby obrazovou část řešil oddělený doplněk. Díky tomu mohou Maverick a Scout odpovídat na otázky k přiloženým fotografiím, zatímco čistě textové modely Llama 3 to nedokážou.

Proč si modely vymýšlejí

Jazykový model je trénován k tomu, aby generoval věrohodně znějící text, nikoli aby ověřoval jeho pravdivost. Pokud má nějaký fakt dobře naučený, věrohodné tvrzení se shoduje s pravdou. Pokud ho dobře naučený nemá (vzácné jméno, přesné číslo, nedávná událost, citace), přesto vygeneruje něco, co zní smysluplně. Tento jev se obvykle označuje jako halucinace. Nejde o vědomou lež – model nemá žádnou oddělenou faktickou databázi, do které by mohl nahlédnout.

• Největší pravděpodobnost chyby bývá u přesných čísel, dat, citátů a odkazů na zdroje.
• Otázka „Jsi si jistý?“ může vyvolat opravu, ale stejně tak omluvu za něco, co bylo původně správně. Nejde o spolehlivý způsob ověření.
• Když modelu předložíte zdrojový text a požádáte ho, aby vycházel výhradně z něj, chybovost se výrazně sníží.

Rozdíl můžete vidět na dvou verzích téhož zadání:

Z paměti (rizikovější):
Kdy byla založena městská knihovna v [mé město] a kdo ji financoval?

Ze zdroje (bezpečnější):
Pouze na základě níže uvedeného textu uveď, kdy byla knihovna založena
a kdo ji financoval. Pokud to v textu není uvedeno, odpověz „neuvedeno“.
"""
[vložte odstavec z webu dané knihovny]
"""

V prvním případě model o vaší místní knihovně s vysokou pravděpodobností neviděl téměř nic nebo vůbec nic, a může tak začít sebevědomě hádat. Ve druhém případě má fakta přímo v kontextu, takže mu stačí je jen přečíst. Stejným způsobem funguje i náš nástroj na shrnutí textu: odpovídá výhradně z textu, který mu zadáte.

Náš průvodce ověřováním odpovědí od AI vám ukáže, jak tento postup proměnit v každodenní rutinu.

Co z toho plyne pro práci s chatem

Chcete-li vidět tyto principy v praxi, požádejte model Llama, ať se představí sám. Tipy na formulaci dotazů najdete v článku jak psát prompty; podrobnosti o samotných modelech pak shrnují texty co je Llama AI a historie rodiny modelů Llama.

Časté dotazy

Rozumí Llama tomu, co píše?

Záleží na tom, co přesně myslíte slovem „rozumět“ – ani samotní vědci se v tom neshodují. V praxi model pracuje s významem dostatečně dobře na to, aby dokázal shrnovat, překládat a logicky řešit řadu úloh, přesto však dokáže selhat u věcí, které hravě zvládne i malé dítě. Hodnoťte ho podle výsledků jeho práce, nikoli podle toho, jak plynule zní.

Učí se model z mých konverzací?

Ne. Parametry modelu se během vašeho chatování nijak nemění. V rámci jedné konverzace používá vaše zprávy pouze jako dočasný kontext – jakmile založíte nový chat, tento kontext zmizí.

Jaký je rozdíl mezi modely Llama a ChatGPT?

Oba staví na velkých jazykových modelech fungujících na podobných principech. Llama je rodina modelů od společnosti Meta vydaná s otevřenými vahami pod licencí Meta, takže si je může kdokoli stáhnout a spustit. ChatGPT je aplikace od společnosti OpenAI, která provozuje modely OpenAI jako hostovanou službu. Podrobnosti najdete ve srovnání Llama vs ChatGPT.

Co jsou to parametry?

Jde o číselné hodnoty uvnitř modelu, které se nastavují během trénování. Více parametrů dokáže pojmout více vzorců, vyžaduje však vyšší výpočetní výkon. Samotná velikost o kvalitě nerozhoduje – klíčovou roli hrají také trénovací data a následné ladění.

Proč s obrázky pracují jen některé modely?

Llama 4 Maverick a Scout byly od základu trénovány na textu i obrázcích současně. Modely Llama 3.3 70B a Llama 3.1 8B jsou čistě textové, takže obrázky zpracovat nedokážou. Všechny čtyři porovnává náš průvodce jak vybrat správný model Llama.