لماذا العمل القانوني معرّض على نحو استثنائي
الطلاقة هي المنتج، لا الدقة
يولّد النموذج اللغوي النص بالتنبؤ المتكرر برمز (Token) تالٍ معقول. ليس لديه مخزن منفصل لحقائق مُتحقَّق منها، ولا آلية داخلية تميّز بين تذكّر شيء وبناء شيء يناسب السياق. فحين تتضمن بيانات التدريب (Training) قضية حقيقية، قد يستعيدها النموذج. وحين لا تتضمنها، ينتج نصًا بالخصائص الظاهرية نفسها: صيغة استشهاد صحيحة، ومحكمة معقولة، ومبدأ قضائي متماسك. ولا شيء في المخرجات يدلّ على أيّ الأمرين حدث. في معظم المجالات يُكتشف التفصيل المختلق لأنه يبدو غريبًا عند القراءة. أما الكتابة القانونية فقالبية على نحو استثنائي — وهذه القالبية بالذات هي ما يستعيده المتنبئ بالرمز التالي على أكمل وجه، فترث الاستشهادات المختلقة مصداقية ظاهرية كاملة من طبيعة هذا النوع من الكتابة نفسه.
- لا حدّ داخليًا لدى النموذج بين التذكّر والاختلاق — كلاهما العملية نفسها
- صيغة الاستشهاد القانوني منتظمة جدًا، فلا يمكن تمييز الاستشهادات المختلقة من ظاهرها
- الثقة في النبرة تعكس توزيع بيانات التدريب، لا يقين النموذج بالحقيقة
- الطلاقة هي ما تحسّنه هذه الأنظمة؛ أما الدقة فشيء عليك أن تضيفه من الخارج
المجال يضخّم الإخفاق
تضاعف عدة سمات في العمل القانوني الخطر الأساسي. فالسند هو العملة: تقوم الحجة على مصادر مستشهد بها على نحو لا تعرفه إلا قلة من المخرجات المهنية الأخرى، فيقع الاختلاق مباشرة في الجزء الحامل للمستند. والتحقق مكلف وموزّع على نحو غير متكافئ، مما يولّد ضغطًا لتخطّيه عند ضيق المواعيد. والطبيعة الخصومية تعني أن هناك خصمًا لديه دافع فعلي للعثور على أخطائك. والجمهور هيئة قضائية تملك سلطة العقوبة. قارن ذلك بإحصائية مختلقة في مذكرة تسويق داخلية — محرجة، لكن يمكن تداركها. أما الفئة نفسها من الأخطاء في مذكرة مودعة لدى المحكمة فتستدعي واجبات الصدق أمام المحكمة، وتجلب العقوبات، وتصبح جزءًا من سجل علني يلاحق الممارس.
- الاستشهادات حاملة في الحجة القانونية — فالاختلاق يقع في الجزء الإنشائي من المستند
- الإجراءات الخصومية تضمن أن أحدًا يبحث عن هذه الفئة من الأخطاء بالذات
- الجمهور يملك سلطة العقوبة، والسجل عادةً علني ودائم
- ضغط المواعيد يستهدف خطوة التحقق تحديدًا، وهي الضابط الوحيد الذي ينجح
- في المحاكم الفيدرالية الأمريكية، تقضي القاعدة 11 (Rule 11) بأن التوقيع إقرار بأن الحجج القانونية يسندها القانون القائم، وتنص على فرض عقوبات
تحيّز الأتمتة يكمل الباقي
لا يصبح الإخفاق التقني إخفاقًا مهنيًا إلا بسبب طريقة تعامل الناس مع مخرجات الآلة الواثقة. تحيّز الأتمتة (Automation bias) هو النزعة الموثّقة جيدًا إلى التسليم بإجابة النظام، وهي تشتد حين تكون المخرجات طليقة، وحين يكون المراجع متعبًا أو مستعجلًا، وحين يكون النظام قد أصاب مرات كثيرة من قبل. وهذا الشرط الأخير هو الفخ: الأداة الموثوقة في خمسة وتسعين في المئة من المهام تدرّب مستخدمها على التسليم نفسه الذي يجعل الخمسة في المئة الباقية خطرة. فالموثوقية والتراخي ينموان معًا. ولهذا يجب أن يكون التحقق متطلبًا إجرائيًا تفرضه العملية، لا قرارًا تقديريًا يتخذه في اللحظة شخص كفّ عن توقّع الأخطاء.
- التسليم بالمخرجات الواثقة نمط بشري موثّق، لا تقصير شخصي يُزال بقوة الإرادة
- الأداة الموثوقة في معظم الأحيان أخطر من أداة غير موثوقة بوضوح — فهي تكسب ثقة لا تستحقها
- التعب وضغط المواعيد هما وقت ذروة التسليم وتوقّف الفحص
- اجعل التحقق خطوة في العملية لها أثر موثّق، لا حالة ذهنية تعوّل على استمرارها