Llama Guard 4
Llama Guard 4 कोई चैटबॉट नहीं है। यह एक सेफ्टी क्लासिफायर है जो इमेज सहित प्रॉम्प्ट्स और जवाबों की जांच करता है, और कैटेगरी के हिसाब से उन्हें सुरक्षित या असुरक्षित मार्क करता है।
Llama Guard 4 क्या है और इसे किसने बनाया है
Llama Guard 4 Meta का एक सेफ़्टी मॉडल है। यह कोई चैटबॉट नहीं है जिससे आप बात कर सकें। इसके बजाय, डेवलपर्स इसे चैट मॉडल के साथ जोड़ते हैं ताकि इनपुट और आउटपुट की जांच की जा सके। यूज़र का प्रॉम्प्ट या मॉडल का जवाब मिलने पर, Llama Guard 4 एक छोटा सा फैसला देता है: "safe", या "unsafe" के साथ उन जोखिम श्रेणियों (hazard categories) के नाम जो उसे मिले। यह टेक्स्ट और इमेज दोनों पर काम करता है, जिसमें एक ही प्रॉम्प्ट में कई इमेज भी शामिल हैं।
Meta के मॉडल कार्ड के अनुसार, Llama Guard 4 में 12 अरब (12B) पैरामीटर और एक डेंस आर्किटेक्चर है। Meta ने इसे प्री-ट्रेन्ड Llama 4 Scout चेकपॉइंट से तैयार किया है—इसके रूटेड एक्सपर्ट्स को हटाकर सिर्फ शेयर्ड एक्सपर्ट को रखा गया, और फिर नतीजे को सेफ़्टी क्लासिफिकेशन के लिए फ़ाइन-ट्यून किया गया। यह अपना टोकनाइज़र और विज़न एनकोडर Llama 4 Scout और Maverick के साथ शेयर करता है और एक सिंगल GPU पर चल सकता है। इसे Llama 4 लॉन्च के कुछ हफ़्तों बाद, 30 अप्रैल 2025 को OpenRouter पर लिस्ट किया गया था, और यह Llama 4 Community License के तहत उपलब्ध है।
Llama Guard फ़ैमिली
Meta ने अपने Llama रिलीज़ के साथ Llama Guard के कई वर्शन पेश किए हैं। Llama Guard 4 ने उन दो अलग-अलग मॉडल्स को एक ही क्लासिफायर में मिला दिया है जो पहले अलग थे: टेक्स्ट के लिए Llama Guard 3 8B और इमेज के लिए Llama Guard 3 11B Vision। Meta इसे अन्य ओपन सेफ़्टी टूल्स के साथ जोड़ता है; उदाहरण के लिए, मॉडल कार्ड जेलब्रेक जैसे प्रॉम्प्ट हमलों का पता लगाने के लिए Llama Prompt Guard 2 का सुझाव देता है।
यह क्या जांचता है: जोखिम श्रेणियां (Hazard categories)
Llama Guard 4 को MLCommons हैज़र्ड टैक्सोनॉमी और टूल यूज़ की एक अतिरिक्त श्रेणी पर ट्रेन किया गया है। जब यह किसी चीज़ को असुरक्षित (unsafe) मार्क करता है, तो यह श्रेणियों के कोड बताता है:
| कोड | श्रेणी | कोड | श्रेणी |
|---|---|---|---|
| S1 | हिंसक अपराध (Violent crimes) | S8 | बौद्धिक संपदा (Intellectual property) |
| S2 | गैर-हिंसक अपराध (Non-violent crimes) | S9 | अंधाधुंध हथियार (Indiscriminate weapons) |
| S3 | यौन अपराध (Sex-related crimes) | S10 | नफ़रत भरा भाषण (Hate) |
| S4 | बाल यौन शोषण (Child sexual exploitation) | S11 | आत्महत्या और खुद को नुकसान (Suicide and self-harm) |
| S5 | मानहानि (Defamation) | S12 | यौन सामग्री (Sexual content) |
| S6 | विशेषज्ञ सलाह (Specialized advice) | S13 | चुनाव (Elections) |
| S7 | गोपनीयता (Privacy) | S14 | कोड इंटरप्रेटर का दुरुपयोग (केवल टेक्स्ट) |
"विशेषज्ञ सलाह" में ऐसे जवाब शामिल हैं जो वित्तीय, चिकित्सा या कानूनी सलाह देते हैं, या जो खतरनाक गतिविधियों या चीज़ों को सुरक्षित बताते हैं।
Llama Guard 4 की खूबियां
- इनपुट फ़िल्टरिंग: मेन मॉडल तक पहुंचने से पहले यूज़र के प्रॉम्प्ट की जांच करना, और साफ़ तौर पर हानिकारक अनुरोधों को शुरुआत में ही रोक देना।
- आउटपुट फ़िल्टरिंग: मेन मॉडल का जवाब यूज़र को दिखाने से पहले उसकी जांच करना, ताकि मॉडल को सुरक्षित जवाब देने का मौका मिले और उसे सिर्फ़ तभी ब्लॉक किया जाए जब उसका जवाब असुरक्षित हो।
- इमेज सपोर्ट: टेक्स्ट और एक या अधिक इमेज वाले मिले-जुले प्रॉम्प्ट्स को क्लासिफाई करना, जो पहले के केवल-टेक्स्ट वाले गार्ड्स नहीं कर सकते थे।
- कई भाषाएं: यह अंग्रेज़ी के साथ-साथ Llama Guard 3 की सभी भाषाओं को सपोर्ट करता है, जिन्हें Meta ने फ्रेंच, जर्मन, हिंदी, इतालवी, पुर्तगाली, स्पेनिश और थाई के रूप में लिस्ट किया है।
Meta का कहना है कि इनपुट और आउटपुट दोनों फ़िल्टरिंग का इस्तेमाल करने से सुरक्षा बेहतर होती है, और उनके इंटरनल टेस्ट्स में इनपुट फ़िल्टरिंग ने आउटपुट फ़िल्टरिंग की तुलना में रिफ़्यूज़ल रेट को ज़्यादा बढ़ाया।
इसकी सीमाएं जिन्हें जानना ज़रूरी है
- यह एक मॉडल है, कोई नियम पुस्तिका नहीं: यह कभी हानिकारक कंटेंट को छोड़ सकता है और कभी हानिरहित कंटेंट को फ़्लैग कर सकता है। Meta के कार्ड के मुताबिक, सामान्य समझ या खास भाषाओं की ज़रूरत वाले क्षेत्रों में इसका प्रदर्शन ट्रेनिंग डेटा की वजह से सीमित हो सकता है।
- तथ्य जिनकी यह जांच नहीं कर सकता: मानहानि, बौद्धिक संपदा और चुनाव जैसी श्रेणियों में सही निर्णय लेने के लिए अक्सर ताज़ा तथ्यों की ज़रूरत होती है, और Meta ऐसे संवेदनशील मामलों के लिए अधिक जटिल सिस्टम्स के इस्तेमाल की सलाह देता है।
- प्रॉम्प्ट हमले: एक लैंग्वेज मॉडल होने के नाते, इसे एडवरसैरियल या प्रॉम्प्ट इंजेक्शन हमलों से चकमा दिया जा सकता है।
- ज़्यादा इमेज: इसका परीक्षण मुख्य रूप से कुछ ही इमेज वाले प्रॉम्प्ट्स पर किया गया है, इसलिए बहुत ज़्यादा इमेज होने पर नतीजे अलग हो सकते हैं।
Llama Guard 4 आधिकारिक तौर पर कैसे पाएं
इसके वेट्स Hugging Face पर meta-llama/Llama-Guard-4-12B के रूप में उपलब्ध हैं, जहां Meta के मॉडल कार्ड में Transformers लाइब्रेरी के लिए उदाहरण कोड भी शामिल है। फ़ाइलों को अनलॉक करने के लिए मॉडल पेज पर लाइसेंस स्वीकार करें। OpenRouter इसे 163,840 टोकन की कॉन्टेक्स्ट विंडो के साथ $0.18 प्रति मिलियन इनपुट टोकन और $0.18 प्रति मिलियन आउटपुट टोकन पर लिस्ट करता है (OpenRouter लिस्ट प्राइस, अक्टूबर 2026)।
एक Llama 4 मॉडल होने के नाते, यह Llama 4 Community License और स्वीकार्य उपयोग नीति के तहत आता है, जिसमें इसका इस्तेमाल करने वाले प्रोडक्ट्स के लिए "Built with Llama" एट्रिब्यूशन और यूरोपीय संघ (EU) में मल्टीमॉडल मॉडल्स के अलग नियम शामिल हैं। आसान भाषा में समझने के लिए हमारा लाइसेंस पेज देखें, और कोड के ज़रिए Llama मॉडल्स को कॉल करने के लिए हमारी API गाइड पढ़ें।
प्राइवेसी से जुड़ी बातें
एक सेफ़्टी क्लासिफायर हर उस मैसेज को पढ़ता है जिसकी वह जांच करता है, इसलिए इसे अपने AI पाइपलाइन के किसी भी अन्य हिस्से की तरह ही समझें: यदि आप इसे किसी क्लाउड प्रोवाइडर के ज़रिए कॉल करते हैं, तो उस प्रोवाइडर की प्राइवेसी शर्तें लागू होती हैं; यदि आप इसे खुद होस्ट करते हैं, तो डेटा आपके सर्वर पर ही रहता है। यूज़र्स की अच्छी आदतों के लिए हमारी AI प्राइवेसी और सेफ़्टी गाइड देखें।
Llama Guard 4 की तुलना
Llama Guard 3 की तुलना में, Meta के अनुसार वर्शन 4 दो अलग मॉडल्स की जगह एक ही मॉडल होकर भी पिछले टेक्स्ट और विज़न गार्ड्स की बराबरी करता है या उनसे बेहतर प्रदर्शन करता है। Llama 4 Scout जैसे चैट मॉडल्स की तुलना में, यह काफी छोटा है और केवल क्लासिफाई करता है; यह जवाब नहीं लिखता। यदि आप ओपन मॉडल्स पर कोई ऐप बना रहे हैं, तो इस तरह का गार्ड मॉडल सुरक्षा की एक परत है, जिसके साथ यूज़र्स के लिए स्पष्ट नियम, रेट लिमिट्स और इंसानी निगरानी भी होनी चाहिए।
अक्सर पूछे जाने वाले सवाल (FAQ)
क्या मैं Llama.Online पर Llama Guard 4 से चैट कर सकता हूँ?
नहीं, Llama Guard 4 हमारी चैट में नहीं है। यह डेवलपर्स के लिए एक क्लासिफायर है, कोई बातचीत करने वाला मॉडल नहीं।
Llama Guard 4 आउटपुट में क्या देता है?
एक छोटा टेक्स्ट निर्णय: "safe", या "unsafe" के साथ कैटेगरी कोड जैसे कि अंधाधुंध हथियारों के लिए S9।
क्या यह इमेज के साथ काम करता है?
हाँ। यह टेक्स्ट और एक या अधिक इमेज को मिलाकर बने प्रॉम्प्ट्स को क्लासिफाई करता है।
क्या Llama Guard 4 का उपयोग मुफ़्त है?
Llama 4 Community License के तहत इसके वेट्स डाउनलोड करने के लिए मुफ़्त हैं। होस्टेड APIs प्रति टोकन शुल्क लेते हैं।
Llama से अपना पहला सवाल पूछें
न कोई अकाउंट और न ही कुछ इंस्टॉल करने का झंझट। चैट खोलें, मैसेज लिखें और देखें Llama क्या कर सकता है।
Llama चैट खोलें