مركز تعلّم الذكاء الاصطناعيEnglish
ترجمة عربية جديدة ✦ نراجعها باستمرار لتحسينها.

الهلوسة: الآليات وطرق التخفيف

⁧إشراف بشري⁩⁧تأكيد الإجراءات المؤثرة⁩⁧نموذج حَكَم⁩⁧نموذج ثانٍ يتحقق من الأول⁩⁧مخرجات مقيّدة⁩⁧صيغ ومخططات مُتحقَّق منها⁩⁧الاستشهادات⁩⁧كل ادعاء له مصدر⁩⁧الإسناد بالاسترجاع (RAG)⁩⁧الإجابة من أدلة مسترجعة⁩⁧الطبقات السفلى تحمل العبء الأكبر؛ والعليا تلتقط الأخطاء المتبقية⁩
⁧لا تقنية واحدة تقضي على الهلوسة — الدفاع متعدد الطبقات، وكل طبقة تلتقط ما فات التي تحتها⁩

الآلية: المعقولية هي الهدف

الهلوسة (Hallucination) ليست عيبًا مُلحقًا بالنماذج اللغوية الكبيرة؛ إنها هدف التدريب وقد ظهر للعيان. فالنموذج المدرَّب على توقّع الرموز التالية المرجّحة يتعلّم إنتاج نص معقول إحصائيًا، والحقيقة ليست إلا مرتبطة بالمعقولية، لا مطابقة لها. في الحقائق التي رآها النموذج آلاف المرات في التدريب، يكون الإكمال الأرجح هو الصحيح أيضًا. أما في الحقائق النادرة، كسيرة شخص غير معروف، أو معاملات واجهة API متخصّصة، أو مرجع بعينه، فلدى النموذج إشارة محفوظة ضعيفة أو معدومة، فيستوفي من الأنماط بدلًا من ذلك: ينتج ما تبدو عليه عادةً إجابة من هذا النوع. والمخرجات سلسة، وحسنة التنسيق، وواثقة الصياغة، وخاطئة. ولهذا تتجمّع الهلوسات تمامًا حيث يكون التحقق أصعب: الادعاءات المحدّدة والنادرة والمفصّلة، ولهذا يبدو الفشل اختلاقًا لا خطأً.

  • دالة الخسارة تكافئ النص المعقول؛ والدقة الواقعية أثر جانبي يرتبط بها كثيرًا، لا قيدٌ مفروض
  • السلاسة والثقة منفصلتان عن الدقة؛ فالأسلوب لا يدل على شيء من الحقيقة
  • المراجع وعناوين URL وتواقيع واجهات API أهداف مثالية للهلوسة: شديدة البنية، سهلة المحاكاة، ونادرًا ما تُحفظ

لماذا يجعل التدريب الأمر أسوأ قبل أن يجعله أفضل

يضيف التدريب اللاحق ضغوطه الخاصة. فالمقيّمون البشريون يكافئون الإجابات الواثقة والكاملة التي تبدو مفيدة، ويعاقبون دون قصد عدم اليقين الصادق، فيعلّمون النماذج أن التخمين السلس أفضل من «لا أعرف». وتزيد المجاملة (Sycophancy) الطين بلّة: تتعلّم النماذج موافقة طريقة طرح المستخدم حتى حين تتضمّن مقدّمة خاطئة. وتتدهور المعايرة أيضًا: فاحتمالات الرموز في النماذج الأساسية تتبع دقتها الفعلية بشكل معقول، ثم يشوّه ضبط التفضيلات ذلك، فينتج ثقة موحّدة في الادعاءات الصحيحة والخاطئة على السواء. ويضيف أخذ العيّنات طبقة أخيرة: عند درجة حرارة (Temperature) غير صفرية، قد يأخذ نموذج كان سينتج على الأرجح حقيقة صحيحة عيّنةً من جار خاطئ. وتدرّب المختبرات الرائدة الآن صراحةً على الامتناع عن الإجابة بوصفه سلوكًا أساسيًا، وهو تقدّم جزئي لا مشكلة محلولة، ولهذا يبقى التخفيف مسألة معمارية لا رقعة إصلاح.

طبقات التخفيف

لا توجد تقنية واحدة تقضي على الهلوسة؛ فأنظمة التشغيل الفعلي تبني طبقات دفاع تلتقط كل منها ما فات سابقتها. التأسيس على المصادر أولًا: استرجع الوثائق ذات الصلة (التوليد المعزّز بالاسترجاع RAG) ووجّه النموذج للإجابة منها فقط، مع الإحالات، فتتحوّل المهمة من الاستدعاء إلى فهم المقروء، وهو ما تجيده النماذج أكثر بكثير. واستخدام الأدوات (Tool use) يذهب أبعد: دع النموذج يستدعي البحث أو قواعد البيانات أو تنفيذ الكود بدل الوثوق بأوزانه. والمخرجات المقيّدة (المخططات والخيارات المحدّدة مسبقًا) تزيل مساحة الاختلاق الحر في المهام المنظّمة. وطبقات التحقق، كنموذج ثانٍ يفحص الادعاءات مقابل المصادر، أو الاتساق الذاتي عبر عيّنات متعددة، تلتقط الأخطاء المتبقية. وأخيرًا، تحرس المراجعة البشرية الأفعال ذات العواقب. صمّم وفق العاقبة: توصية فيلم خاطئة وتحذير خاطئ من تداخل دوائي يستحقان طبقات مختلفة تمامًا.

  • التأسيس على المصادر مع الإحالات يحوّل الاستدعاء إلى فهم ويجعل الإجابات قابلة للتدقيق
  • استدعاءات الأدوات تتفوّق على الذاكرة البارامترية في كل ما هو حديث أو نادر أو دقيق
  • طابِق عمق التخفيف مع عاقبة الخطأ؛ إنه قرار تصميم نظام، لا إعداد في النموذج