مركز تعلّم الذكاء الاصطناعيEnglish
ترجمة عربية جديدة ✦ نراجعها باستمرار لتحسينها.

الاختلاق الواثق

⁧الحقيقي والمختلَق يصلان بالصوت الواثق نفسه⁩⁧صقل الإجابة لا يخبرك شيئًا عن دقتها — «بدا واثقًا» ليس سببًا لتصديقها⁩⁧إجابتان متطابقتان في الطلاقة والتنسيق والثقة — إحداهما مختلَقة⁩⁧الإجابة أ⁩⁧«اكتمل بناء برج إيفل عام 1889،⁩⁧وبُني لمعرض باريس العالمي.»⁩⁧موثّقة — السجلات تؤكدها⁩⁧الإجابة ب⁩⁧«دراسة لستانفورد عام 2019 (Chen et al.، ص 41)⁩⁧وجدت أن 68.4% من المديرين يوافقون…»⁩⁧مختلَقة — لا توجد دراسة كهذه⁩⁧خطر أقل — تحقّق بخفة⁩⁧شروح عامة لموضوعات راسخة⁩⁧ملخّصات لمادة لصقتها كاملة⁩⁧إعادة كتابة نصّك وصياغته⁩⁧خطر أعلى — تحقّق أولًا، كل مرة⁩⁧الأرقام الدقيقة والتواريخ وأرقام الصفحات والإصدارات⁩⁧المراجع والاقتباسات والأسماء⁩⁧التفصيل الذي «يُفترض» وجوده لدعم حجّتك⁩⁧تحقّق بقدر العواقب — اسأل: «ماذا يحدث لو كان هذا خاطئًا؟»⁩⁧جملة تُقرأ بشكل مختلف ← تابع⁩⁧عميل، قرار، الجمهور ← راجع المصدر نفسه⁩⁧لا تتحقّق بسؤال النموذج إن كان متأكدًا — العملية التي اختلقته ستؤكده بثقة⁩⁧طليق، محدّد، واثق — وربما مختلَق⁩⁧المرجع الذي لا تجده خلال دقيقة مرجع مختلَق؛ وكل ما ستكرّره يستحق ثلاثين ثانية⁩
⁧الاختلاق يُقرأ تمامًا كالمعرفة لأن النبرة الواثقة لم تتبع الحقيقة قط — تحقّق من التفاصيل في مصدرها، بقدر العواقب.⁩

الطلاقة ليست دليلًا

نمط الفشل الذي يستهين به الناس ليس أن يقول النموذج «لا أعرف»، بل أن يُنتج تفصيلًا محددًا ومقنعًا ومنسّقًا جيدًا ومختلَقًا بالكامل، بالنبرة الواثقة نفسها التي يستخدمها مع الحقائق، وهو ما يُعرف بالهلوسة (Hallucination). استشهاد بورقة بحثية لا وجود لها. إحصائية بمنزلة عشرية. اقتباس منسوب إلى شخص حقيقي. دالة في مكتبة برمجية تبدو منطقية لكنها لم تُكتب قط. النبرة متطابقة لأنها لم تكن تتبع الحقيقة أصلًا. ولهذا فإن «بدا واثقًا» ليس سببًا لتصديق شيء، ولهذا أيضًا لا يخبرك صقل الإجابة بشيء عن دقتها.

  • الثقة سمة من سمات أسلوب الكتابة، لا مؤشر على الموثوقية
  • المعلومات المختلَقة محددة ومعقولة الظاهر، وهذا بالضبط ما يجعلها مقنعة
  • الاستشهادات والإحصائيات والاقتباسات والتواريخ والأسماء هي الفئات الأعلى خطرًا
  • الإجابة الأكثر طلاقة ليست الأكثر دقة

أين يتركّز الاختلاق

الاختلاق لا يتوزع بالتساوي، وهذا ما يجعله قابلًا للإدارة. يرتفع الخطر بحدة مع زيادة التحديد — الأرقام الدقيقة، وأرقام الصفحات، والتواريخ، وأرقام الإصدارات، والاقتباسات الحرفية. ويرتفع في المجالات الضيقة أو النادرة التي لم يكن فيها الكثير مما يُتعلَّم منه. ويرتفع حين تطلب شيئًا كان سيوجد لو كان العالم مرتّبًا: الاستشهاد المثالي لحجتك، أو مثالًا يطابق حالتك تمامًا. ويرتفع حين تضغط للحصول على تفاصيل لا تحتويها المادة، لأن طلب التفاصيل يميل إلى إنتاج تفاصيل. أمّا الشروحات العامة لموضوعات راسخة فآمنة نسبيًا. والادعاءات الدقيقة عن أشياء بعينها هي أول ما تفحصه، في كل مرة.

  • خطر أعلى: الأرقام الدقيقة، والاستشهادات، والاقتباسات، والتواريخ، والأسماء، والتفاصيل النادرة
  • خطر أقل: الشروحات العامة لموضوعات راسخة ومتداولة على نطاق واسع
  • طلب تفصيل «يُفترض» أنه موجود طريقة شائعة لتوليد تفصيل مختلَق
  • الضغط للحصول على تفاصيل تتجاوز المادة المصدر يُنتج الاختلاق بشكل شبه مؤكد

تحقّق بقدر العواقب

التحقق من كل شيء غير قابل للاستمرار، وستتوقف عنه خلال أسبوع. القاعدة العملية أن تسأل: ماذا يحدث إذا كان هذا الادعاء بالذات خاطئًا؟ إذا كان الجواب «ستُقرأ الجملة بشكل مختلف قليلًا»، فامضِ قُدمًا. وإذا كان «سأضلّل عميلًا، أو أتخذ قرارًا سيئًا، أو أكرّر معلومة خاطئة أمام الناس»، فتحقّق قبل الاستخدام. تحقّق بالرجوع إلى المصدر نفسه، لا بسؤال النموذج إن كان متأكدًا — فالتحقق الذاتي أضعف الطرق المتاحة، لأن العملية نفسها التي أنتجت الخطأ ستُنتج بكل سرور تأكيدًا واثقًا له. عادتان مفيدتان: الاستشهاد الذي لا يمكن العثور عليه استشهاد مختلَق، وكل ما ستكرّره لشخص آخر يستحق ثلاثين ثانية من التحقق.

  • اسأل «ماذا يحدث إذا كان هذا خاطئًا؟» بدل «هل يمكن أن يكون خاطئًا؟»
  • تحقّق دائمًا من: الأرقام، والاستشهادات، والاقتباسات، والتفاصيل القانونية والطبية والمالية
  • نادرًا ما تحتاج للتحقق من: الصياغة، والهيكل، والأفكار المقترحة التي ستقيّمها على أي حال
  • المصدر الذي لا تجده خلال دقيقة يجب أن يُعامَل كمصدر مختلَق