كيف تتحقق من إجابات الذكاء الاصطناعي دون فحص كل تفصيلة

يكتب Llama إجابات فصيحة وواثقة سواء كان محقاً أم مخطئاً. في معظم الأحيان تكون الصورة العامة صحيحة؛ لكن المشكلة تختبئ في التفاصيل: تاريخ غير دقيق بفارق عام، أو اقتباس لم يقله أحد قط، أو قاعدة قانونية تغيرت، أو كتاب غير موجود أصلاً. لست بحاجة إلى التحقق من كل شيء، بل تحتاج إلى طريقة سريعة لتحديد ما يجب فحصه وكيفية تدقيقه. إليك الطريقة.

اعرف أين تتجمع الأخطاء

هناك أنواع من المحتوى يكثر الخطأ فيها أكثر من غيرها. تعامل مع هذه الأمور بمبدأ "تحقق قبل الاستخدام":

• الأرقام الدقيقة: الإحصاءات، والأسعار، والقياسات، والنسب المئوية.
• التواريخ وتسلسل الأحداث.
• الاقتباسات المنسوبة إلى أشخاص حقيقيين.
• المراجع: الكتب، والأوراق البحثية، والمقالات، وأرقام الصفحات، والروابط. كثيراً ما تبتكر النماذج مراجع تبدو حقيقية تماماً.
• أي شيء حديث. وفقاً لبطاقات نماذج Meta، تنتهي بيانات تدريب Llama 4 في أغسطس 2024 وLlama 3.x في ديسمبر 2023. لا تتصفح دردشتنا الويب، لذا فإن الأحداث والأسعار والقوانين وإصدارات البرامج الأحدث غير معروفة لها.
• الحقائق المتخصصة أو غير الشائعة: المدن الصغيرة، والشخصيات الأقل شهرة، واللوائح المحلية.
• التفاصيل الصحية والقانونية والمالية، حيث تكون تكلفة الخطأ هي الأعلى.

أما التفسيرات العامة للموضوعات الموثقة جيداً، مثل كيفية حدوث التمثيل الضوئي أو ماهية القرض العقاري، فهي أكثر موثوقية عموماً، وإن كانت غير مضمونة تماماً أيضاً.

خمس خطوات عملية للتدقيق

1. حدد مدى أهمية المعلومة. قصيدة لعيد ميلاد لا تحتاج إلى تدقيق. لكن رقماً سيوضع في تقرير، أو سؤالاً حول دواء، أو موعداً قانونياً نهائياً يتطلب ذلك بالتأكيد. ابذل الجهد بما يتناسب مع النتيجة.
2. استخرج الادعاءات. اطلب من Llama أن يدرجها لك في قائمة (انظر الأمر التوجيهي أدناه). فحص القائمة أسهل بكثير من فحص فقرة كاملة.
3. طابق كل ادعاء بمصدر أولي: الموقع الرسمي، أو الدراسة الأصلية، أو نص القانون نفسه، أو وثائق الشركة. إجابة الذكاء الاصطناعي الأخرى لا تعد مصدراً.
4. تحقق من التاريخ. هل مصدرك محدث؟ هل طرأ أي تغيير بعد تاريخ انتهاء بيانات النموذج؟
5. صحح أو احذف. صوب الخطأ، وإن تعذر عليك تأكيد ادعاء معين، فاحذفه أو أشر إليه بأنه غير مؤكد.

راجع إجابتك الأخيرة. استخرج كل ادعاء واقعي (أسماء، تواريخ، أرقام، اقتباسات، قواعد) وضعه في جدول من ثلاثة أعمدة: الادعاء، ومدى تأكدك منه (متأكد / شبه متأكد / تخمين)، وأين يمكنني التحقق منه. لا تضف أي شيء جديد.

إن تقييم النموذج لنفسه بشأن مدى تأكده ليس سوى تلميح، إذ يمكن أن يكون مخطئاً بثقة تامة، ولكنه يساعدك في تحديد نقطة البداية. افتح أمر جدول الحقائق في الدردشة بعد أي إجابة تريد التحقق منها.

اطرح الأسئلة بطريقة تسهل التحقق

صيغة ضعيفة:
ما هي قواعد تأجير شقتي لفترات قصيرة؟

صيغة قوية:
أعطني نظرة عامة على أنواع القواعد التي تنطبق غالباً على الإيجارات قصيرة الأجل (التسجيل، الضرائب، قوانين المبنى، التأمين). لا تذكر قوانين أو مبالغ محددة لمدينتي؛ بل أخبرني بالجهات الرسمية أو الوثائق التي يجب أن أراجعها وماذا أسألهم. أعيش في [البلد / المدينة].

تستفيد الصيغة القوية من نقاط قوة Llama (التنظيم، والشرح، وقوائم المراجعة) وتوجهك إلى المصادر الموثوقة للتفاصيل التي تتغير من مكان لآخر ومن عام لآخر.

عادات مفيدة أخرى:

• قدم له المصدر. الصق المقال أو العقد أو التوثيق واكتب "أجب من هذا النص فقط واقتبس الجملة التي اعتمدت عليها". ثم قارن كل اقتباس بالأصل.
• شجعه على الاعتراف بعدم المعرفة. عبارة "إن كنت لا تعرف، فقل ذلك صراحة" تزيد من احتمال قوله "لست متأكداً" بصدق.
• افصل الحقائق عن الآراء. "حدد الأجزاء التي تعتبر حقائق ثابتة وتلك التي تمثل وجهات نظر أو تفسيرات."

التحقق من المراجع والاقتباسات

عندما تذكر الإجابة كتاباً أو ورقة بحثية أو مقالاً، ابحث عنه بعنوانه الدقيق في فهرس مكتبة، أو محرك بحث علمي، أو على موقع الناشر. إن لم تجده، فافترض أنه غير موجود. وإن كان موجوداً، فافتحه وتأكد من أنه يتضمن ما زعمته الإجابة، إذ يمكن وصف ورقة بحثية حقيقية بشكل خاطئ. أما بالنسبة للاقتباسات، فابحث عن الخطاب أو المقابلة أو النص الأصلي؛ فمجموعات الاقتباسات على الإنترنت مليئة بالأقوال المنسوبة خطأً أيضاً.

في الأبحاث الدراسية أو أي مادة تنشرها، لا تستشهد بمصدر لم تقرأه بنفسك قط.

والطريقة الأفضل لاستخدام Llama مع المصادر هي العكس: ابحث عن المصادر بنفسك، والصق الفقرات ذات الصلة، واطلب من Llama مقارنتها أو شرحها أو تلخيصها.

فيما يلي فقرتان من تقريرين مختلفين حول الموضوع نفسه. أين يتفقان، وأين يختلفان، وما هي الادعاءات في كل منهما التي ينبغي عليّ التحقق منها أكثر؟ اقتبس الجمل بدقة. الفقرة أ: [الصق هنا] الفقرة ب: [الصق هنا]

نظراً لإمكانية تتبع كل عبارة في الإجابة بالرجوع إلى اقتباس قدمته بنفسك، فإن مراجعتها تستغرق دقائق معدودة بدلاً من قضاء فترة بعد الظهر بأكملها في البحث.

التحقق مما يقرأه Llama في الصور

يمكن لـ Llama 4 Maverick وLlama 4 Scout قراءة الصور ولقطات الشاشة، ولكن النصوص الدقيقة والخط اليدوي والإضاءة الضعيفة والمخططات المزدحمة قد تؤدي إلى قراءات خاطئة. عندما يستخرج النموذج أرقاماً أو نصوصاً من صورة، قارن بعض القيم بالأصل بنظرة سريعة. اطلب منه "وضع علامة (؟) بجانب أي شيء غير متأكد منه" لتبرز القراءات المشكوك فيها بوضوح.

علامات تحذيرية في الإجابة

• أرقام دقيقة جداً دون ذكر أي مصدر.
• اقتباس يبدو مثالياً أو منمقاً أكثر من اللازم بالنسبة للشخص المنسوب إليه.
• أرقام مواد قانونية أو مدد زمنية أو مبالغ محددة من تشريعات بلدك.
• مراجع بتفاصيل تبدو كاملة لكنك لا تجد لها أي أثر.
• ادعاءات حول "أحدث" إصدار أو سعر أو حدث؛ فـ "الأحدث" لدى النموذج متوقف عند تاريخ انتهاء تدريبه.
• حقائق تتغير عند إعادة توليد الإجابة. في الأسئلة المهمة، أعد التوليد مرة أو مرتين؛ وإذا تغيرت التفاصيل بين الإجابات، فتعامل معها جميعاً على أنها غير مؤكدة.

أين تتحقق من المعلومات؟

تساعدك أداة التلخيص على الاطلاع على المصادر الطويلة بسرعة أكبر: لخص الوثيقة الرسمية، ثم اقرأ الأجزاء المهمة في النص الأصلي. لفهم أسباب وقوع هذه الأخطاء من الأساس، اقرأ كيف تعمل النماذج اللغوية الكبيرة، وللاطلاع على الممارسات الآمنة مع الموضوعات الحساسة راجع الخصوصية والأمان مع الذكاء الاصطناعي.

الأسئلة الشائعة

كم نسبة أخطاء Llama؟

لا يوجد رقم محدد. يعتمد الأمر على الموضوع، والنموذج، وصياغة السؤال، وما إذا كنت قد زودته بمصدر أم لا. افترض أن أي حقيقة محددة قد تكون خاطئة حتى تتحقق منها بنفسك.

هل النموذج الأكبر أكثر دقة؟

تميل النماذج الأكبر حجماً إلى معرفة حقائق أكثر، لكن كل نموذج يقع في الأخطاء ولا يعرف أي منها أحداثاً بعد تاريخ انتهاء تدريبه. التحقق أمر ضروري لجميع النماذج الأربعة في دردشتنا. قد تساعدك مقارنة الإجابات بين Llama 4 Maverick وLlama 3.3 70B في معرفة أين يكمن الشك، لكن تطابق الإجابتين ليس دليلاً قاطعاً على الصحة.

هل يستطيع Llama فحص موقع ويب نيابة عني؟

لا، فهو لا يستطيع فتح الروابط. انسخ النص المطلوب إلى الدردشة واسأله عنه مباشرة.

هل يجب عليّ التحقق من الإجابات المتعلقة بالصور أيضاً؟

نعم. عندما يصف Llama 4 صورة أو يقرأ نصاً من لقطة شاشة، فقد يخطئ في قراءة التفاصيل الصغيرة أو يخمن الأجزاء غير الواضحة. قارن القيم الأساسية بالصورة بنفسك قبل الاعتماد عليها.

لماذا اعتذر النموذج وغير إجابة كانت صحيحة؟

تم تدريب نماذج الدردشة لتكون متوافقة ومطاوعة، لذا فإن مجادلتها قد تدفعها إلى التراجع حتى لو كانت على صواب. ولهذا السبب، فإن المصادر الخارجية هي المقياس الحقيقي، وليس رأي النموذج التكراري في نفسه.