Llama Guard 4

Llama Guard 4 nedir ve kim geliştirmiştir?

Llama Guard 4, Meta tarafından geliştirilen bir güvenlik modelidir. Sohbet edebileceğiniz bir yapay zekâ botu değildir. Bunun yerine geliştiriciler, sisteme giren ve sistemden çıkan içerikleri denetlemek için bu modeli bir sohbet modelinin yanına entegre eder. Kullanıcı istemi veya model yanıtı verildiğinde Llama Guard 4 kısa bir karar üretir: "safe" (güvenli) veya tespit ettiği tehlike kategorileriyle birlikte "unsafe" (güvenli değil). Tek bir istem içinde birden fazla görsel dahil olmak üzere hem metinlerle hem de görsellerle çalışır.

Meta'nın model kartına göre Llama Guard 4, 12 milyar parametreye ve yoğun (dense) bir mimariye sahiptir. Meta bu modeli, önceden eğitilmiş bir Llama 4 Scout kontrol noktasını alıp, yönlendirilen uzmanları (routed experts) kaldırarak yalnızca paylaşılan uzmanı bırakıp ardından sonucu güvenlik sınıflandırması için ince ayardan (fine-tuning) geçirerek oluşturdu. Belirteçleyiciyi (tokenizer) ve görsel kodlayıcıyı Llama 4 Scout ve Maverick ile paylaşır ve tek bir GPU üzerinde çalışabilir. Llama 4 lansmanından birkaç hafta sonra, 30 Nisan 2025'te OpenRouter'da listelenmiştir ve Llama 4 Community License kapsamında sunulmaktadır.

Llama Guard ailesi

Meta, Llama sürümleriyle birlikte çeşitli Llama Guard sürümleri de yayımlamıştır. Llama Guard 4; daha önce metin için Llama Guard 3 8B ve görseller için Llama Guard 3 11B Vision olmak üzere iki ayrı model olan yapıyı tek bir sınıflandırıcıda birleştirir. Meta bunu diğer açık güvenlik araçlarıyla eşleştirir; örneğin model kartı, jailbreak girişimleri gibi istem saldırılarını tespit etmek için Llama Prompt Guard 2 modelini işaret eder.

Neleri denetler: tehlike kategorileri

Llama Guard 4, MLCommons tehlike taksonomisi ve araç kullanımı için eklenen fazladan bir kategori üzerinde eğitilmiştir. Bir içeriği güvensiz olarak işaretlediğinde ilgili kategorileri belirtir:

"Uzmanlık gerektiren tavsiyeler"; finansal, tıbbi veya yasal alanlarda uzmanlık tavsiyesi veren ya da tehlikeli faaliyet veya nesnelerin güvenli olduğunu öne süren yanıtları kapsar.

Llama Guard 4'ün güçlü yönleri

• Girdi filtreleme. Ana model görmeden önce kullanıcının istemini denetleyin ve açıkça zararlı olan talepleri erkenden engelleyin.
• Çıktı filtreleme. Ana modelin yanıtını kullanıcıya göstermeden önce denetleyin; böylece model güvenli bir şekilde yanıt verme şansı yakalar ve yalnızca yanıtı güvensiz olduğunda engellenir.
• Görseller. Önceki yalnızca metin tabanlı koruma modellerinin yapamadığı şekilde, metin ile bir veya daha fazla görseli birleştiren istemleri sınıflandırın.
• Çoklu dil desteği. İngilizcenin yanı sıra Meta'nın Fransızca, Almanca, Hintçe, İtalyanca, Portekizce, İspanyolca ve Tayca olarak listelediği Llama Guard 3 dillerini destekler.

Meta, hem girdi hem de çıktı filtrelemesini birlikte kullanmanın ek güvenlik sağladığını ve dahili testlerinde girdi filtrelemesinin ret oranlarını çıktı filtrelemesine kıyasla daha fazla artırdığını belirtmektedir.

Bilinmesi gereken sınırlamalar

• Kural kitabı değil, bir modeldir. Zararlı içerikleri gözden kaçırabilir veya zararsız içerikleri hatalı işaretleyebilir. Meta'nın kartı; sağduyu veya belirli diller gerektiren alanlarda performansın eğitim verileriyle sınırlı olabileceğini belirtmektedir.
• Doğrulayamadığı olgular. Karalama, fikri mülkiyet ve seçimler gibi kategoriler genellikle karar vermek için güncel olgulara ihtiyaç duyar; Meta bu alanlardaki hassas kullanımlar için daha kapsamlı sistemler önermektedir.
• İstem saldırıları. Bir dil modeli olduğu için manipülatif girdiler veya "prompt injection" saldırılarıyla yanıltılabilir.
• Çok sayıda görsel. Ağırlıklı olarak birkaç görsel içeren istemlerle test edilmiştir, bu nedenle çok daha fazla görsel içeren durumlarda sonuçlar değişebilir.

Llama Guard 4 resmi olarak nasıl edinilir?

Model ağırlıkları Hugging Face üzerinde meta-llama/Llama-Guard-4-12B adıyla yer almaktadır; burada Meta'nın model kartı Transformers kütüphanesi için örnek kodlar da içerir. Dosyaların kilidini açmak için model sayfasındaki lisansı kabul edin. OpenRouter, modeli 163.840 belirteçlik bağlam penceresiyle, milyon girdi belirteci başına 0,18 $ ve milyon çıktı belirteci başına 0,18 $ fiyatla listelemektedir (OpenRouter liste fiyatı, Ekim 2026).

Bir Llama 4 modeli olarak, modeli kullanan ürünler için "Built with Llama" ibaresi ve AB'deki çok modlu modellere yönelik özel kurallar da dahil olmak üzere Llama 4 Community License ve kabul edilebilir kullanım politikasına tabidir. Anlaşılır bir özet için lisans sayfamıza, Llama modellerini kod üzerinden çağırmak içinse API kılavuzumuza göz atabilirsiniz.

Gizlilik notları

Bir güvenlik sınıflandırıcısı denetlediği her mesajı okur; bu nedenle onu yapay zekâ ardışık düzeninizin (pipeline) diğer herhangi bir parçası gibi ele alın: Bulut sağlayıcısı üzerinden çağırıyorsanız o sağlayıcının gizlilik koşulları geçerlidir; kendiniz barındırıyorsanız veriler kendi sunucularınızda kalır. Yapay zekâ gizliliği ve güvenliği kılavuzumuz, kullanıcılar için faydalı alışkanlıkları ele almaktadır.

Llama Guard 4 karşılaştırması

Llama Guard 3 ile karşılaştırıldığında Meta; sürüm 4'ün iki ayrı model yerine tek bir model olmasına rağmen önceki metin ve görme modellerine yaklaşık olarak denk olduğunu veya onları aştığını bildirmektedir. Llama 4 Scout gibi sohbet modelleriyle karşılaştırıldığında çok daha küçüktür ve yalnızca sınıflandırma yapar; yanıt metni yazmaz. Açık modeller üzerinde bir uygulama geliştiriyorsanız böyle bir koruma modeli; net kullanıcı kuralları, hız sınırları ve insan denetiminin yanı sıra ek bir güvenlik katmanıdır.

SSS

Llama.Online üzerinde Llama Guard 4 ile sohbet edebilir miyim?

Hayır, Llama Guard 4 sohbetimizde yer almamaktadır. Sohbet modeli değil, geliştiriciler için bir sınıflandırıcıdır.

Llama Guard 4 ne çıktı verir?

Kısa bir metin kararı üretir: "safe" ya da "unsafe" ile birlikte ayrım gözetmeyen silahlar için S9 gibi kategori kodları.

Görsellerle çalışır mı?

Evet. Metin ile bir veya daha fazla görseli birleştiren istemleri sınıflandırır.

Llama Guard 4'ü kullanmak ücretsiz mi?

Model ağırlıkları Llama 4 Community License kapsamında ücretsiz olarak indirilebilir. Barındırılan API'ler ise belirteç başına ücretlendirilir.