مركز تعلّم الذكاء الاصطناعيEnglish
ترجمة عربية جديدة ✦ نراجعها باستمرار لتحسينها.

لماذا تختلق النماذج السوابق القضائية

⁧لماذا يختلق النموذج سوابق قضائية تبدو مُتقنة تماماً⁩⁧توليد فقط — لا بحث عن أي شيء⁩⁧تطلب مرجعاً قانونياً داعماً⁩⁧النموذج يُكمل النص⁩⁧متوقِّعاً الشكل الذي يبدو عليه الاستشهاد هنا⁩⁧خانات تُملأ بما يبدو معقولاً⁩⁧أسماء الأطراف⁩⁧شكل صحيح⁩⁧صيغة المرجع⁩⁧شكل صحيح⁩⁧المحكمة⁩⁧شكل صحيح⁩⁧السنة⁩⁧شكل صحيح⁩⁧كل جزء سليم الصياغة.⁩⁧ولم يُرجَع إلى أي سجل.⁩⁧مرجع يبدو صحيحاً وهو ليس كذلك⁩⁧مدعوم بالاسترجاع — يُستعلَم من مجموعة نصوص⁩⁧تطلب مرجعاً قانونياً داعماً⁩⁧الأداة تبحث في مجموعة حقيقية⁩⁧وتكتب مما استرجعته⁩⁧خانات تُملأ من السجلات⁩⁧أسماء الأطراف⁩⁧مسترجَع⁩⁧صيغة المرجع⁩⁧مسترجَع⁩⁧المحكمة⁩⁧مسترجَع⁩⁧السنة⁩⁧مسترجَع⁩⁧مستند إلى وثائق موجودة.⁩⁧ويمكن تتبّع الرابط إلى مصدره.⁩⁧مرجع يمكنك فتحه وقراءته⁩⁧الاسترجاع يقلّل الاحتمال — لكنه لا يُسقط الواجب⁩⁧المرجع المسترجَع قد يُلخَّص خطأً، أو يُحمَّل أكثر مما يحتمل، أو يُستشهد به لمقولة لم يدعمها قط⁩
⁧الاستشهاد المختلق ليس كذبة — إنه تخمين متقن لشكل استشهاد، صادر عن نظام لم يكن يبحث عن أي شيء أصلاً⁩

آلية عمل، لا عطل

الاستشهاد المختلق ليس خطأً برمجيًا بالمعنى المعتاد. فالنموذج يفعل تمامًا ما صُمّم لأجله: إنتاج نص مرجّح بالنظر إلى السياق. وحين يُطلب منه مرجع يدعم مقولة ما، يولّد تسلسلًا له الشكل الإحصائي لاستشهاد يدعم تلك المقولة. فإذا كانت هناك قضية حقيقية مطابقة حاضرة بقوة في بيانات التدريب، فقد يكون الناتج هو تلك القضية. وإن لم تكن، يظل الناتج استشهادًا سليم الصياغة، لأن الاستشهادات سليمة الصياغة هي ما يقتضيه النمط. لا توجد خطوة داخلية يرجع فيها النموذج إلى قاعدة بيانات فلا يجد شيئًا. ولفهم هذا أهمية عملية: فهو يعني أن الاختلاق — أو ما يُعرف بالهلوسة (Hallucination) — ليس نادرًا ولا عشوائيًا، بل هو السلوك الافتراضي كلما كان المرجع المطلوب غير قابل للاستعادة بسهولة من بيانات التدريب.

  • الاختلاق هو النظام يعمل كما صُمّم، لا عيبًا عارضًا ينتظر إصلاحًا
  • لا توجد خطوة بحث يمكن أن تخفق فتعيد نتيجة فارغة — النموذج ينتج شيئًا دائمًا
  • يرتفع الخطر بحدة مع المقولات الضيقة، والتطورات الحديثة، والولايات القضائية الصغيرة
  • مطالبة النموذج بالحذر أو بالاستشهاد بقضايا حقيقية فقط لا تغيّر الآلية

كيف يبدو الاختلاق في الممارسة

لهذا الإخفاق أشكال يمكن التعرف إليها. قضايا مختلقة بالكامل بأسماء أطراف معقولة واستشهاد بصيغة المجموعة القضائية الصحيحة. وقضايا حقيقية أُلصق بها مبدأ قضائي مختلق. وقضايا حقيقية يُستشهد بها لمقولة لا تدعمها، وغالبًا ما تكون قريبة من مقولة تدعمها فعلًا. وأسماء قضايا صحيحة مقرونة باستشهادات خاطئة أو محاكم خاطئة أو سنوات خاطئة. واقتباسات حرفية لا وجود لها في أي مكان. ونصوص تشريعية غير موجودة، أو موجودة بمحتوى مختلف. ومراجع مركّبة تمزج قضيتين حقيقيتين في قضية واحدة. واللافت أن النموذج كثيرًا ما يدافع عن الاختلاق حين يُواجَه به، ويقدّم تفاصيل مختلقة إضافية عند الطلب، وينتج اقتباسًا واثقًا من حكم لم يُكتب قط.

  • من أشكاله: قضايا مختلقة بالكامل، وقضايا حقيقية بمبادئ قضائية مختلقة، وأسماء صحيحة باستشهادات خاطئة
  • وصف المراجع الحقيقية وصفًا خاطئًا أكثر شيوعًا من الاختلاق الخالص، وأصعب اكتشافًا
  • مواجهة النموذج كثيرًا ما تنتج مزيدًا من التفاصيل المختلقة بدل التراجع
  • الاقتباس الحرفي السلس ليس دليلًا على أن الفقرة موجودة في أي مكان

لماذا يفلت من الممارسين ذوي الخبرة

من المغري الظن أن الاستشهادات المختلقة لا يقدّمها إلا من لم يكونوا منتبهين، لكن السجل الفعلي لا يدعم هذا الاطمئنان. فالناتج يصل بلغة البحث القانوني المتمكّن نفسها، فتغيب إشارات عدم الموثوقية المعتادة. وهو يُولَّد عادةً في لحظة أقصى ضغط زمني. وكثيرًا ما يُنتجه شخص لم يُجرِ الاستعلام بنفسه — محامٍ مبتدئ، أو متعاقد، أو موكّل قدّم مسودة. ثم إن خطوة التحقق مملة ومتكررة، وتؤكد في الغالب أن لا شيء خاطئ، وهذه بالضبط الظروف التي يتوقف فيها البشر عن أداء الفحوص كما ينبغي. الثغرة بنيوية، ومعاملتها على أنها مسألة إهمال فردي هي ما يسمح بتكرارها.

  • يصل الناتج بلغة البحث المتمكّن، فتغيب إشارات التحذير المعتادة
  • يظهر في ذروة ضغط المواعيد، وغالبًا عبر شخص غير الذي أجرى الاستعلام
  • التحقق مهمة يقظة قليلة العائد، وهي تحديدًا ما يؤديه البشر بأسوأ صورة
  • تأطير المسألة على أنها إهمال فردي يمنع الإصلاح الإجرائي الذي ينجح فعلًا