Llama 3.2

Що таке Llama 3.2 і хто її розробляє

Llama 3.2 — це лінійка моделей, випущена Meta 25 вересня 2024 року. Вона розвивалася одразу у двох напрямах. З одного боку з'явилися дві дуже компактні текстові моделі, Llama 3.2 1B та 3B, створені для роботи на смартфонах, ноутбуках та інших пристроях з обмеженими ресурсами. З іншого боку Meta представила свої перші мультимодальні моделі — Llama 3.2 11B Vision та 90B Vision, які можуть аналізувати зображення разом із текстом і відповідати на запити. Усі вони доступні для завантаження за ліцензією Llama 3.2 Community License.

Сімейство Llama 3.2

Llama 3.2 1B та 3B (текст)

Згідно з карткою моделі від Meta, версія 1B налічує близько 1,23 мільярда параметрів, обидві компактні моделі підтримують контекстне вікно у 128K токенів і були навчені на масиві даних обсягом до 9 трильйонів токенів (зріз знань — до грудня 2023 року). Meta оптимізувала їх, зокрема навчаючи на відповідях більших моделей Llama 3.1 8B та 70B за допомогою методу дистиляції знань (knowledge distillation). За словами Meta, вони найкраще підходять для роботи в ролі чат-асистента, пошуку інформації, підсумовування, допомоги з текстом на мобільних пристроях, а також перефразування запитів.

Meta також випустила квантовані версії 1B та 3B, оптимізовані для мобільних процесорів із невеликим обсягом оперативної пам'яті. У цих квантованих версіях контекстне вікно обмежене 8K токенів.

Llama 3.2 11B та 90B Vision

Мультимодальні моделі створені на основі текстової Llama 3.1 та доповнені окремо навченим адаптером зору, який передає дані з енкодера зображень до мовної моделі. Головні сценарії їхнього використання — це розпізнавання об'єктів, логічний аналіз зображень, створення підписів і відповіді на загальні запитання щодо візуального вмісту в межах вікна у 128K токенів. Важлива деталь: для завдань, що поєднують текст і зображення, офіційно підтримується лише англійська мова.

Для чого найкраще підходить Llama 3.2

• Робота безпосередньо на пристрої. Моделі 1B та 3B достатньо легкі для смартфонів і компактних ноутбуків, завдяки чому застосунки можуть працювати офлайн, не передаючи ваші дані на сторонні сервери.
• Швидкі та економні текстові завдання. Стислий переказ, переписування тексту, класифікація та короткі відповіді, коли немає потреби залучати великі ресурсомісткі моделі.
• Аналіз зображень англійською. Мультимодальні моделі описують фотографії, читають графіки й документи, а також відповідають на запитання щодо зображень.
• Експерименти та навчання. Невеликі моделі є чудовою відправною точкою для тих, хто тільки починає знайомитися з локальними ШІ або донавчанням (fine-tuning).

Для роботи з текстом офіційно підтримуються вісім мов: англійська, німецька, французька, італійська, португальська, гінді, іспанська та тайська.

Основні обмеження

• Компактність обмежує можливості. Моделі 1B та 3B знають значно менше, ніж їхні повнорозмірні аналоги, і частіше помиляються у фактах та висновках. Meta окремо зазначає, що вони орієнтовані на пристрої з суворими апаратними обмеженнями.
• Застаріла база знань. Дані для навчання обмежені груднем 2023 року.
• Аналіз зображень лише англійською: завдання за участі фото підтримуються тільки цією мовою. Крім того, моделі не вміють генерувати картинки.
• Обмеження для ЄС щодо моделей Vision. Згідно з правилами використання Llama 3.2 від Meta, ліцензійні права на мультимодальні моделі не надаються резидентам або компаніям із Європейського Союзу. Це обмеження не стосується кінцевих користувачів готових продуктів, куди ці моделі вже інтегровано. Текстові моделі 1B та 3B мультимодальними не є.
• Застарілість на тлі нових рішень. Llama 4 Scout та Maverick мають вбудовану підтримку зображень безпосередньо в архітектурі та працюють із ширшим переліком мов.

Як офіційно завантажити Llama 3.2

Meta розміщує всі моделі Llama 3.2 на Hugging Face на сторінці організації meta-llama (наприклад, meta-llama/Llama-3.2-3B-Instruct та meta-llama/Llama-3.2-11B-Vision-Instruct). Щоб завантажити файли, достатньо прийняти умови ліцензії на сторінці потрібної моделі. Картка мультимодальної моделі доступна тут.

Для локального запуску невеликі моделі можна завантажити через Ollama: команда ollama run llama3.2 встановить версію 3B (близько 2,0 ГБ), а ollama run llama3.2:1b — версію 1B (близько 1,3 ГБ). Вони також працюють у LM Studio та llama.cpp; детальніше читайте в нашому посібнику про те, як запустити Llama локально.

Що стосується хмарних API, на платформі OpenRouter вартість Llama 3.2 1B становить $0,027 за вхідні та $0,201 за вихідні токени на мільйон, а Llama 3.2 3B — $0,0509 за вхідні та $0,335 за вихідні токени на мільйон (тарифи OpenRouter, жовтень 2026 року). Наша інструкція з API пояснює, як надсилати запити до моделей Llama.

Умови ліцензії аналогічні до інших релізів Llama: маркування "Built with Llama", дотримання правил використання та норма про 700 мільйонів активних користувачів щомісяця. Детальніше про це можна дізнатися на нашій сторінці про ліцензії.

Конфіденційність

Головна перевага Llama 3.2 з погляду безпеки даних полягає в тому, що компактні моделі працюють локально на вашому пристрої, тож інформація не залишає телефон чи комп'ютер. Якщо ви звертаєтеся до них через хмарних провайдерів, діють правила конфіденційності відповідного сервісу.

Порівняння з іншими версіями

Порівняно з Llama 3.1 8B модель 3B значно легша, але поступається глибиною міркувань. Якщо порівнювати з Llama 4, моделі 3.2 Vision є старішими, підтримують менше мов для обробки зображень та мають згадані юридичні обмеження для ЄС, тоді як Llama 4 працює з візуальними даними на рівні основних моделей. Якщо вам потрібно проаналізувати фото, найзручніше зробити це в нашому чаті з Llama 4. Хронологію всіх версій дивіться на сторінці історії Llama.

Часті запитання

Чи можна скористатися Llama 3.2 у чаті Llama.Online?

Ні, Llama 3.2 не інтегрована в наш чат. Для завдань із зображеннями обирайте Llama 4 Maverick або Scout, а для швидких відповідей на текст — Llama 3.1 8B.

Чи працює Llama 3.2 на смартфоні?

Так, версії 1B та 3B розроблені саме для цього, особливо квантовані збірки Meta для мобільних чипів. Для запуску знадобиться застосунок, який підтримує локальні моделі.

Які версії Llama 3.2 вміють розпізнавати зображення?

Лише моделі 11B та 90B Vision. Версії 1B та 3B працюють виключно з текстом.

Чи можуть користувачі з ЄС працювати з Llama 3.2?

Текстові моделі доступні на загальних умовах ліцензії. Щодо мультимодальних моделей (Vision), політика Meta обмежує надання ліцензії фізичним та юридичним особам з ЄС, проте кінцеві користувачі готових продуктів під це обмеження не підпадають. Ця інформація має довідковий характер і не є юридичною консультацією.