Як працюють великі мовні моделі на кшталт Llama

Коли ви ставите запитання в чаті, Llama ніде не шукає відповідь у готовому вигляді. Вона створює її частинами, крок за кроком, спираючись на закономірності, засвоєні під час навчання. Розуміння цієї простої ідеї пояснює як сильні сторони великих мовних моделей (LLM), так і більшість їхніх помилок. У цьому посібнику ми без зайвих математичних формул розповімо, як вони працюють, на прикладі моделей Llama у нашому чаті.

Токени: як модель сприймає текст

Мовні моделі не бачать окремих літер чи цілих слів. Текст розбивається на токени: поширене слово часто стає окремим токеном, довгі чи рідкісні слова діляться на частини, а знаки пунктуації рахуються окремо. Кожен токен перетворюється на числовий масив, із яким модель може виконувати обчислення.

Саме токени пояснюють деякі дивні особливості. Якщо попросити модель порахувати, скільки разів літера «р» трапляється в довгому слові, або написати слово задом наперед, вона може помилитися — адже від самого початку вона не бачить текст по окремих літерах. Крім того, обмеження моделі (обсяг вхідного тексту чи максимальна довжина відповіді) вимірюються саме в токенах, а не в словах. Мови, що потребують більше токенів на одне речення, швидше досягають цих лімітів.

Прогнозування: по одному токену за раз

По суті, LLM виконує одне завдання: на основі вже наявного тексту вона оцінює ймовірність кожного можливого наступного токена. Вона вибирає один із них, додає його до тексту й повторює цей крок. Довга відповідь — це ланцюжок із сотень або тисяч таких операцій.

Модель не завжди обирає найбільш імовірний токен. Невелика контрольована випадковість, яка зазвичай налаштовується параметром temperature («температура»), робить відповіді різноманітнішими та природнішими. Ось чому на одне й те саме запитання можна щоразу отримати різні формулювання, а кнопка генерації нової відповіді інколи видає кращий результат.

Навчання: від простого генератора тексту до асистента

Попереднє навчання (Pre-training)

Спочатку модель опрацьовує колосальний обсяг тексту й навчається вгадувати наступний токен. У картках моделей Meta зазначає, що попереднє навчання Llama 3.3 та 3.1 проходило на «новій вибірці загальнодоступних онлайн-даних» обсягом понад 15 трильйонів токенів. Llama 4 тренувалася на суміші загальнодоступних даних, ліцензованого контенту та інформації з продуктів Meta: близько 40 трильйонів токенів для Scout і 22 трильйонів для Maverick. Під час цього процесу модель засвоює граматику, факти, стилі, код і логіку міркувань, оскільки все це допомагає їй точніше робити прогнози.

Налаштування інструкцій (Instruction tuning)

Звичайна базова модель просто продовжує текст — вона не вміє корисно відповідати на запитання. Тому її додатково навчають на прикладах чітких завдань із якісними відповідями, а також використовують відгуки людей про те, які результати є кращими. У технічних картках Llama 3.x Meta називає ці етапи навчанням з учителем (SFT) та навчанням із підкріпленням на основі людського зворотного зв'язку (RLHF). Так створюється версія «Instruct», з якою ви спілкуєтеся в чаті.

Актуальність знань (Knowledge cut-off)

Навчальні дані обмежені певною датою, і про події після неї модель нічого не знає. Згідно з документацією Meta, для Llama 4 Maverick та Scout актуальність знань обмежена серпнем 2024 року, а для Llama 3.3 70B та Llama 3.1 8B — груднем 2023 року. Якщо запитати про пізніші події, модель або прямо скаже, що не знає, або, що гірше, почне вгадувати. Наш чат не має виходу в інтернет, щоб заповнити цю прогалину.

Контекст: робоча пам'ять моделі

Усе, що модель бере до уваги під час формування відповіді (системні інструкції, попередня історія розмови та ваше нове повідомлення), називається її контекстом. Поза його межами пам'яті не існує. Коли ви починаєте новий діалог, модель нічого не пам'ятає з попередніх бесід.

Максимальний обсяг цієї інформації — це вікно контексту, яке вимірюється в токенах. За даними Meta, воно становить 128K токенів для Llama 3.3 та 3.1, 1M для Llama 4 Maverick і 10M для Llama 4 Scout. Наш провайдер наразі підтримує близько 524K для Maverick і близько 1.3M для Scout. Наш чат передає обмежену частину розмови, щоб відповіді надходили швидше, тому повідомлення з самого початку довгого діалогу поступово перестають впливати на нові відповіді.

Mixture of Experts: архітектура Llama 4

Моделі Llama 3 є монолітними (dense): для обробки кожного токена активуються всі параметри (числові ваги моделі). Llama 4 використовує підхід Mixture of Experts (суміш експертів). Модель містить багато спеціалізованих підмереж («експертів»), і для кожного токена залучаються лише деякі з них. Meta наводить такі цифри: Llama 4 Scout задіює 17 мільярдів активних параметрів зі 109 мільярдів загальних через 16 експертів; Llama 4 Maverick використовує 17 мільярдів активних із 400 мільярдів через 128 експертів. Завдяки цьому модель зберігає величезну базу знань, але потребує менше обчислень на один токен, ніж монолітна модель аналогічного загального розміру.

Крім того, Llama 4 є нативно мультимодальною. Meta використовує принцип «раннього злиття» (early fusion): текст і зображення обробляються разом в одній спільній моделі, а не окремими модулями. Саме тому Maverick і Scout здатні відповідати на запитання щодо прикріпленого фото, тоді як суто текстові моделі серії Llama 3 цього робити не вміють.

Чому моделі вигадують факти

Мовну модель навчають генерувати переконливий текст, а не перевіряти фактичну достовірність. Коли модель добре засвоїла факт, правдоподібне збігається з правдивим. Якщо ж вона чогось не знає (рідкісне ім'я, точна цифра, недавня подія, цитата), вона однаково створить текст, який звучить правдоподібно. Це явище зазвичай називають галюцинацією. Модель робить це не навмисно: у неї просто немає окремої перевіреної бази даних, куди можна зазирнути.

• Найчастіше помилки трапляються в точних цифрах, датах, цитатах і посиланнях на джерела.
• Запитання «Ви впевнені?» може змусити модель виправити помилку, але з такою ж імовірністю вона перепросить і за правильну відповідь. Це ненадійний спосіб перевірки.
• Якщо надати моделі текст-першоджерело і попросити спиратися виключно на нього, кількість помилок значно зменшується.

Порівняйте два варіанти одного запиту:

З пам'яті моделі (ризиковано):
Коли було засновано міську бібліотеку в [моє місто] і хто фінансував її створення?

За наданим джерелом (надійно):
Спираючись лише на текст нижче, вкажіть, коли було засновано бібліотеку та хто
її фінансував. Якщо в тексті цього немає, дайте відповідь «не зазначено».
"""
[вставте уривок з офіційного сайту бібліотеки]
"""

У першому випадку модель, скоріш за все, майже нічого не знає про місцеву бібліотеку, тому може впевнено вигадати деталі. У другому випадку факти вже є в її контексті, тому залишається лише прочитати їх. Наш інструмент підсумовування працює за цим же принципом: він витягує інформацію лише з переданого вами тексту.

Практичні поради ви знайдете в посібнику про те, як перевіряти відповіді ШІ.

Що це означає на практиці під час роботи з чатом

Щоб побачити ці принципи на власні очі, попросіть Llama пояснити свою роботу. Поради щодо формулювання запитів читайте у статті про те, як писати промпти; детальніше про самі моделі читайте в огляді що таке Llama та в історії сімейства Llama.

Часті запитання

Чи розуміє Llama те, про що говорить?

Усе залежить від визначення слова «розуміти», і дослідники досі дискутують щодо цього. На практиці модель достатньо добре працює зі змістом, щоб підсумовувати, перекладати та міркувати над багатьма завданнями, але може схибити в речах, які є елементарними для дитини. Оцінюйте модель за фактами в її роботі, а не за тим, наскільки гладко звучить мова.

Чи навчається модель на моїх діалогах?

Ні. Параметри моделі не змінюються під час вашого спілкування. У межах одного діалогу вона пам'ятає сказане як контекст; як тільки ви відкриваєте новий чат, цей контекст стирається.

Чим відрізняються Llama та ChatGPT?

Обидва інструменти побудовані на великих мовних моделях зі схожими принципами роботи. Llama — це сімейство моделей від Meta з відкритими вагами під ліцензією Meta, тобто будь-хто може завантажити та запустити їх самостійно. ChatGPT — це застосунок від OpenAI, що запускає власні закриті моделі як хмарний сервіс. Читайте докладніше у порівнянні Llama проти ChatGPT.

Що таке параметри?

Це числові коефіцієнти (ваги) всередині моделі, які калібруються під час навчання. Більша кількість параметрів дозволяє запам'ятовувати більше складних зв'язків, але вимагає значно більше обчислювальної потужності. Сам лише розмір не є гарантією якості — не менш важливими є якість навчальних даних і тонке налаштування.

Чому лише деякі моделі працюють із зображеннями?

Llama 4 Maverick та Scout навчалися одночасно на текстах і зображеннях. Llama 3.3 70B та Llama 3.1 8B — це суто текстові моделі, тому вони не можуть розпізнавати фото. Наш посібник про те, як вибрати модель Llama, містить детальне порівняння всіх чотирьох.