Llama 3.2

Llama 3.2 là gì và do ai phát triển?

Llama 3.2 là bộ mô hình được Meta phát hành vào ngày 25 tháng 9 năm 2024. Bản phát hành này đi theo hai hướng tiếp cận riêng biệt. Một bên là hai mô hình văn bản siêu nhỏ, Llama 3.2 1B và 3B, được thiết kế để chạy trực tiếp trên điện thoại, máy tính xách tay và các thiết bị có phần cứng hạn chế. Bên còn lại là những mô hình thị giác Llama đầu tiên của Meta, Llama 3.2 11B Vision và 90B Vision, có khả năng nhận cả hình ảnh lẫn văn bản và phản hồi bằng văn bản. Bạn có thể tải toàn bộ các mô hình này theo Giấy phép Cộng đồng Llama 3.2.

Các phiên bản trong gia đình Llama 3.2

Llama 3.2 1B và 3B (văn bản)

Theo model card của Meta, bản 1B có khoảng 1,23 tỷ tham số; cả hai mô hình nhỏ này đều hỗ trợ ngữ cảnh 128K token và được huấn luyện trên tối đa 9 nghìn tỷ token với dữ liệu tính đến tháng 12 năm 2023. Meta đã xây dựng chúng một phần bằng cách chắt lọc tri thức (knowledge distillation) từ đầu ra của các mô hình lớn hơn là Llama 3.1 8B và 70B. Meta định hướng chúng cho các tác vụ như trò chuyện trợ lý, truy xuất thông tin, tóm tắt, hỗ trợ viết lách trên thiết bị di động và viết lại câu lệnh (prompt).

Meta cũng phát hành các phiên bản lượng tử hóa (quantized) cho 1B và 3B, được tối ưu để chạy trên chip điện thoại với dung lượng bộ nhớ thấp hơn. Các phiên bản lượng tử hóa này có độ dài ngữ cảnh ngắn hơn, ở mức 8K token.

Llama 3.2 11B và 90B Vision

Các mô hình thị giác được phát triển dựa trên mô hình văn bản Llama 3.1 kết hợp với một bộ điều hợp thị giác (vision adapter) được huấn luyện riêng, giúp đưa dữ liệu từ bộ mã hóa hình ảnh vào mô hình ngôn ngữ. Meta nêu rõ các công dụng chính của chúng bao gồm nhận diện hình ảnh, lập luận qua ảnh, chú thích ảnh và trả lời các câu hỏi tổng quát về hình ảnh, với ngữ cảnh 128K token. Một chi tiết quan trọng: đối với các tác vụ kết hợp cả hình ảnh và văn bản, tiếng Anh là ngôn ngữ duy nhất được hỗ trợ chính thức.

Ưu điểm nổi bật của Llama 3.2

• AI chạy trực tiếp trên thiết bị (On-device AI). Bản 1B và 3B đủ nhỏ gọn để hoạt động trên điện thoại và laptop mỏng nhẹ, cho phép ứng dụng chạy offline và giữ toàn bộ dữ liệu ngay trên máy của bạn.
• Xử lý văn bản nhanh và tiết kiệm. Rất thích hợp để tóm tắt, viết lại câu chữ, phân loại và phản hồi ngắn gọn mà không cần tốn tài nguyên cho một mô hình cồng kềnh.
• Hiểu hình ảnh bằng tiếng Anh. Các mô hình thị giác có thể mô tả ảnh chụp, đọc biểu đồ, tài liệu và trả lời thắc mắc liên quan đến bức ảnh.
• Thử nghiệm và học tập. Những mô hình nhỏ này là lựa chọn khởi đầu tuyệt vời cho những ai mới làm quen với AI cục bộ hoặc muốn thử nghiệm tinh chỉnh (fine-tuning).

Về phần xử lý văn bản, mô hình hỗ trợ chính thức 8 ngôn ngữ: tiếng Anh, tiếng Đức, tiếng Pháp, tiếng Ý, tiếng Bồ Đào Nha, tiếng Hindi, tiếng Tây Ban Nha và tiếng Thái.

Những hạn chế cần lưu ý

• Quy mô nhỏ đi kèm giới hạn. Bản 1B và 3B có vốn kiến thức khiêm tốn hơn nhiều so với các mô hình lớn và dễ mắc lỗi hơn về mặt sự kiện cũng như suy luận logic. Bản thân Meta cũng khuyến cáo rằng chúng chỉ dành cho các môi trường bị giới hạn tài nguyên như thiết bị di động.
• Dữ liệu cũ hơn. Tập dữ liệu huấn luyện chỉ dừng lại ở tháng 12 năm 2023.
• Khả năng thị giác chỉ hỗ trợ tiếng Anh cho các tác vụ kết hợp ảnh và văn bản; ngoài ra các mô hình thị giác này không thể tự tạo ra ảnh.
• Hạn chế tại EU đối với các mô hình thị giác. Chính sách sử dụng của Meta đối với Llama 3.2 quy định không cấp quyền sử dụng các mô hình đa phương thức cho cá nhân hoặc công ty có trụ sở tại Liên minh Châu Âu (EU). Người dùng cuối của một sản phẩm đã tích hợp sẵn các mô hình này không bị ảnh hưởng. Các bản văn bản 1B và 3B không phải là mô hình đa phương thức.
• Đã có lựa chọn xử lý hình ảnh tốt hơn. Llama 4 Scout và Maverick có khả năng xử lý hình ảnh tự nhiên hơn và hỗ trợ đa dạng ngôn ngữ hơn.

Cách tải Llama 3.2 chính thức

Meta đăng tải toàn bộ các mô hình Llama 3.2 trên Hugging Face dưới tổ chức meta-llama, chẳng hạn như meta-llama/Llama-3.2-3B-Instruct và meta-llama/Llama-3.2-11B-Vision-Instruct. Bạn chỉ cần chấp nhận điều khoản giấy phép trên trang của mô hình để tải các tệp về. Bạn có thể xem model card của bản thị giác tại đây.

Để sử dụng trên máy cá nhân, Ollama cung cấp sẵn các mô hình nhỏ gọn: gõ ollama run llama3.2 để tải bản 3B (khoảng 2,0 GB) và ollama run llama3.2:1b cho bản 1B (khoảng 1,3 GB). LM Studio và llama.cpp cũng hỗ trợ chạy chúng; bạn có thể xem hướng dẫn tại bài viết chạy Llama trên máy cục bộ.

Nếu dùng qua API đám mây, OpenRouter niêm yết mức giá cho Llama 3.2 1B là 0,027 $ đầu vào và 0,201 $ đầu ra trên mỗi triệu token; Llama 3.2 3B là 0,0509 $ đầu vào và 0,335 $ đầu ra trên mỗi triệu token (giá niêm yết trên OpenRouter, tháng 10 năm 2026). Hướng dẫn API của chúng tôi sẽ chỉ cho bạn cách gửi yêu cầu đến các mô hình Llama.

Các điều khoản cấp phép về cơ bản tương tự như những phiên bản Llama khác: ghi nhận "Built with Llama", tuân thủ chính sách sử dụng chấp nhận được và quy định mốc 700 triệu người dùng hoạt động hàng tháng. Bạn có thể đọc thêm chi tiết tại trang giấy phép của chúng tôi.

Lưu ý về quyền riêng tư

Ưu điểm lớn nhất về quyền riêng tư của Llama 3.2 là các mô hình nhỏ có thể chạy hoàn toàn offline trên thiết bị của bạn, giúp dữ liệu không bao giờ rời khỏi điện thoại hay máy tính. Ngược lại, nếu bạn chọn dùng qua một nhà cung cấp đám mây, các điều khoản bảo mật của dịch vụ đó sẽ được áp dụng.

So sánh Llama 3.2 với các phiên bản khác

So với Llama 3.1 8B, bản 3B nhỏ và nhẹ hơn nhưng năng lực xử lý cũng hạn chế hơn. So với Llama 4, các mô hình thị giác 3.2 đã cũ hơn, hỗ trợ ít ngôn ngữ cho hình ảnh hơn và vướng điều khoản EU, trong khi Llama 4 xử lý hình ảnh trực tiếp ngay trong các mô hình chính. Nếu bạn chỉ muốn đặt câu hỏi về một bức ảnh, giao diện chat của chúng tôi với Llama 4 là lựa chọn tiện lợi nhất. Bạn có thể xem toàn bộ lộ trình ra mắt tại trang lịch sử Llama.

Câu hỏi thường gặp

Tôi có thể dùng Llama 3.2 trên Llama.Online không?

Hiện tại không, Llama 3.2 không có trên hệ thống chat của chúng tôi. Bạn hãy dùng Llama 4 Maverick hoặc Scout để xử lý ảnh, và dùng Llama 3.1 8B để nhận câu trả lời văn bản nhanh chóng.

Llama 3.2 có chạy được trên điện thoại không?

Các bản 1B và 3B được thiết kế chuyên biệt cho mục đích này, đặc biệt là các phiên bản lượng tử hóa mà Meta tối ưu cho chip di động. Bạn chỉ cần cài thêm một ứng dụng có hỗ trợ chạy mô hình cục bộ.

Mô hình Llama 3.2 nào có khả năng nhìn và hiểu hình ảnh?

Chỉ có hai phiên bản thị giác là 11B Vision và 90B Vision. Các bản 1B và 3B chỉ xử lý được văn bản.

Người dùng tại EU có được phép sử dụng Llama 3.2 không?

Với các mô hình văn bản, bạn hoàn toàn có thể sử dụng theo các điều khoản giấy phép. Với các mô hình thị giác, chính sách của Meta không cấp quyền sử dụng cho cá nhân và tổ chức tại EU, tuy nhiên người dùng cuối của các sản phẩm tích hợp sẵn những mô hình này thì không bị ảnh hưởng. Đây chỉ là thông tin tham khảo, không phải tư vấn pháp lý.