Llama 3.1 8B

Apa itu Llama 3.1 8B dan siapa pembuatnya

Llama 3.1 8B ialah model terkecil dalam keluaran Llama 3.1 daripada Meta, yang diterbitkan pada 23 Julai 2024. Model ini mempunyai 8 bilion parameter, mampu membaca dan menulis teks, serta menawarkan tetingkap konteks 128K token mengikut kad model Meta. Data latihannya berakhir pada Disember 2023. Pemberat model boleh dimuat turun di bawah Llama 3.1 Community License.

Llama 3.1 hadir dalam tiga saiz: 8B, 70B dan 405B. Model 405B merupakan model terbuka terbesar Meta pada masa itu, manakala versi 8B dibina agar pantas dan menjimatkan kos operasi. Keluaran 3.1 ini turut membawakan konteks 128K yang lebih panjang kepada model-model yang lebih kecil serta lesen yang secara jelas membenarkan penggunaan output Llama untuk menambah baik model lain, contohnya bagi menjana data latihan.

Dalam sembang kami, Llama 3.1 8B ialah pilihan yang terpantas dan paling ringan. Llama.Online ialah laman bebas yang tidak dikendalikan oleh Meta; model ini berjalan pada penyedia inferens awan dan laman kami menghantar mesej anda kepadanya.

Kedudukannya dalam keluarga Llama

Bayangkan empat model dalam sembang kami seperti anak tangga. Llama 3.1 8B ialah langkah pantas dan ringan di tangga paling bawah. Llama 3.3 70B ialah model teks yang jauh lebih besar dengan pengetahuan serta perincian yang lebih mendalam. Llama 4 Scout dan Llama 4 Maverick merupakan generasi terbaharu yang turut berupaya membaca imej. Terdapat juga model Llama yang lebih kecil: Llama 3.2 1B dan 3B dibina khusus untuk telefon pintar dan peranti kecil, namun ia tiada dalam sembang kami. Garis masa penuh boleh dilihat di sejarah Llama.

Kelebihan Llama 3.1 8B

• Jawapan pantas. Definisi, penjelasan ringkas, penukaran unit dan soalan panduan pendek.
• Menulis semula teks pendek. Menjadikan mesej lebih mesra, lebih padat atau lebih formal; membetulkan tatabahasa dalam sesuatu perenggan.
• Draf ringkas. Hantaran media sosial, penerangan produk, balasan sopan atau senarai idea tajuk.
• Penyusunan dan pengekstrakan mudah. Mengeluarkan nama dan tarikh daripada perenggan, melabel maklum balas sebagai positif atau negatif, serta menukar nota menjadi senarai.
• Dijalankan pada komputer anda sendiri. Model ini antara model Llama yang paling mudah dijalankan secara tempatan. Ollama menyenaraikan saiz muat turunnya sekitar 4.9 GB, cukup kecil untuk kebanyakan komputer riba.

Lapan bahasa disokong secara rasmi: Bahasa Inggeris, Jerman, Perancis, Itali, Portugis, Hindi, Sepanyol dan Thai.

Cara menggunakannya dalam sembang kami

1. Buka sembang menggunakan pautan di bawah, atau pilih Llama 3.1 8B pada menu model.
2. Pastikan permintaan anda ringkas dan khusus. Berikan contoh output yang diingini jika formatnya penting.
3. Jika jawapan kelihatan kurang mendalam atau tidak tepat, jana semula dengan model yang lebih besar seperti Llama 3.3 70B atau Maverick.

Bersembang dengan Llama 3.1 8B

Sembang ini percuma dalam had kuota harian mesej, kini sebanyak 100 mesej sehari. Fungsi imej memerlukan model Llama 4, jadi melampirkan imej akan menukar sembang kepada Maverick secara automatik.

Had yang perlu diketahui

• Model lebih kecil, lebih banyak kesilapan. Dengan 8 bilion parameter, ia mempunyai pengetahuan yang kurang berbanding model yang lebih besar dan lebih kerap melakukan kesilapan fakta, terutamanya mengenai topik khusus, tokoh dan nombor. Anggap faktanya sebagai titik permulaan yang perlu disemak semula.
• Penaakulan yang lebih mencabar. Matematik pelbagai langkah, logik rumit dan kod yang panjang lebih sesuai dikendalikan oleh Llama 3.3 70B atau Llama 4.
• Teks sahaja. Model ini tidak boleh membaca imej.
• Pengetahuan lama. Data latihannya berakhir pada Disember 2023, dan sembang kami tiada akses web.
• Dokumen panjang. Model ini menyokong 128K token, namun sembang percuma kami memendekkan perbualan panjang kepada bahagian terkini sahaja, dan model kecil sememangnya lebih cenderung terlepas butiran dalam teks yang panjang.

Mendapatkan Llama 3.1 8B secara rasmi

Meta menerbitkan pemberat model di Hugging Face sebagai meta-llama/Llama-3.1-8B-Instruct; terima lesen pada halaman model untuk mengakses fail tersebut. Kaedah tempatan yang paling mudah ialah Ollama: pasang dan jalankan ollama run llama3.1, yang akan memuat turun versi 8B secara lalai. LM Studio dan llama.cpp juga disokong; lihat panduan jalankan Llama secara tempatan.

Melalui API awan, ia merupakan antara model paling murah di pasaran: OpenRouter menyenaraikannya pada harga $0.05 setiap sejuta token input dan $0.08 setiap sejuta token output (harga senarai OpenRouter, Okt 2026), dengan tetingkap konteks 131,072 token pada penyedia kami. Panduan Llama API kami menunjukkan cara memanggilnya.

Llama 3.1 Community License membenarkan penggunaan komersial dengan syarat: patuhi dasar penggunaan yang dibenarkan, paparkan "Built with Llama" dalam produk anda, mulakan nama model penalaan halus yang anda kongsi dengan "Llama", dan dapatkan lesen berasingan daripada Meta jika produk anda mempunyai lebih daripada 700 juta pengguna aktif bulanan. Lihat halaman lesen kami.

Nota privasi

Dalam sembang kami, mesej anda dihantar melalui pelayan dan get laluan AI kami terus kepada penyedia inferens yang menjalankan model ini. Kami tidak menyimpan teks mesej anda, dan sejarah perbualan kekal dalam penyemak imbas anda. Memandangkan Llama 3.1 8B cukup kecil untuk dijalankan pada komputer riba, ia juga menjadi pilihan popular jika anda mahukan jawapan tanpa perlu menghantar sebarang data melalui internet langsung.

Perbandingan Llama 3.1 8B

Berbanding Llama 3.3 70B, ia jauh lebih pantas dan murah tetapi kurang berpengetahuan dan kurang teliti. Berbanding Llama 4, ia tiada keupayaan pemprosesan imej dan pengetahuan yang lebih baharu. Berbanding model kerdil seperti Llama 3.2 3B, ia lebih berkeupayaan tetapi memerlukan lebih banyak memori. Jika anda tidak pasti, panduan kami tentang memilih model Llama yang tepat menerangkan tugasan biasa, dan Llama 3.3 lwn Llama 4 membandingkan pilihan model yang lebih besar.

Soalan Lazim

Mengapakah saya perlu memilih model yang paling kecil?

Kelajuan. Bagi tugasan pendek dan mudah, ia menjawab dengan pantas dan biasanya sudah memadai. Beralihlah kepada model yang lebih besar apabila ketepatan atau kedalaman jawapan diutamakan.

Bolehkah saya menjalankan Llama 3.1 8B pada komputer riba saya?

Selalunya boleh. Saiz muat turun Ollama sekitar 4.9 GB. Ia berjalan paling lancar dengan memori bebas yang mencukupi serta cip grafik terkini atau Apple silicon, namun ia juga boleh berfungsi (walaupun lebih perlahan) pada kebanyakan komputer biasa.

Adakah Llama 3.1 8B sama dengan Llama 3 8B?

Tidak. Llama 3 8B dilancarkan pada April 2024 dengan tetingkap konteks 8K; Llama 3.1 8B menyusul pada Julai 2024 dengan tetingkap konteks 128K dan lapan bahasa yang disokong secara rasmi.

Adakah model ini mengetahui peristiwa terkini?

Tidak. Data latihannya berakhir pada Disember 2023, dan sembang kami tidak boleh mencari maklumat di web.