لماذا يختلق الأشياء
الهلوسة هي النظام وهو يعمل كما صُمِّم
حين يخترع النموذج اقتباسًا، أو إحصائية، أو قضية في محكمة، أو كتابًا غير موجود، يُسمّى ذلك هلوسة (Hallucination). من المغري أن تفهمها على أنها كذب من النموذج، لكن لم يحدث أي خلل في داخله. طُلب منه أن ينتج التكملة الأكثر معقولية، ففعل. المرجع المزيف يبدو تمامًا مثل المرجع الحقيقي: مؤلف، وسنة، وعنوان معقول، لأنه وُلِّد من نمط المراجع الحقيقية. ولا توجد داخل النموذج مرحلة منفصلة لتدقيق الحقائق كان يمكن أن تكتشفه. الحقيقة ليست متغيرًا يتتبعه النظام؛ المعقولية هي ما يتتبعه.
- المراجع والتواريخ والاقتباسات المختلقة هي الخطأ الكلاسيكي، وتبدو طبيعية تمامًا
- لا يستطيع النموذج التنبيه إليها لأنه لا يملك سجلًا مستقلًا لما هو صحيح
- يكون الخطر أعلى ما يكون في التفاصيل الدقيقة القابلة للتحقق والتي نادرًا ما كُتب عنها
- ويكون أقل ما يكون في إعادة ترتيب أو شرح مادة قدّمتها أنت بنفسك
الثقة أسلوب كتابة، لا إشارة
الكتّاب من البشر يتحفّظون عادةً حين لا يكونون متأكدين. هذا الارتباط يجعلنا نقرأ النثر الواثق على أنه نثر مطّلع، والنماذج تكتب بنثر واثق في كل الأحوال تقريبًا، لأن معظم النصوص التي تعلمت منها كتبها أشخاص واثقون. وهكذا انفصلت الإشارة الاجتماعية المعتادة التي تعتمد عليها، أي «هل يبدو هذا الشخص متأكدًا؟»، عن صحة المحتوى. بعض الأنظمة صارت الآن تعبّر عن عدم اليقين أكثر، لكن لا تعامل نبرة الكلام أبدًا كدليل. الإجابة المختلقة والإجابة الصحيحة تصلان بلغة الجسد نفسها.
- الطلاقة والثقة لا تخبرانك بشيء عن الدقة؛ إنهما أسلوب، لا دليل
- سؤاله «هل أنت متأكد؟» ينتج غالبًا تصحيحًا واثقًا بدل تقدير حقيقي لمدى ثقته
- وقد يتراجع ويوافقك حتى حين تكون أنت المخطئ، لأن الموافقة نمط شائع أيضًا
- ثق بالتحقق، لا بالنبرة
أين يكمن الخطر الحقيقي بالنسبة لك
الخطر الواقعي ليس كذبة جامحة وواضحة، بل تفصيلة صغيرة واثقة وخاطئة داخل أربع فقرات صحيحة، في موضوع لا تعرفه جيدًا بما يكفي لتلاحظها. وهذا بالضبط موقفك حين تستخدم الذكاء الاصطناعي في واجب عن موضوع ما زلت تتعلمه. الحماية ليست في الارتياب، بل في التناسب: تحقق من كل ما يحمل اسمًا، أو رقمًا، أو تاريخًا، أو مصدرًا، أو قانونًا رياضيًا، وخفّف قلقك بشأن الصياغة والترتيب والشرح. اسأل نفسك: ماذا يحدث لو كان هذا الادعاء بالذات خاطئًا؟ إذا كانت الإجابة «سأخسر درجات» أو «سأضلّل شخصًا ما»، فتحقق منه.
- أعلى خطر: المصادر المسمّاة، والإحصائيات، والتواريخ، والتفاصيل القانونية أو الطبية، وكل ما هو متخصص ونادر
- خطر أقل: إعادة صياغة عملك أنت، وتوليد أسئلة تدريبية، وشرح مفهوم بعدة طرق
- اطلب من النموذج أن يعرض خطوات تفكيره؛ فالأخطاء أسهل اكتشافًا في الخطوات منها في الاستنتاجات
- إذا لم يؤكده مصدران مستقلان، فلا تضعه في عملك
جرّب بنفسك
القراءة عن الهلوسة تختلف عن ضبط واحدة بنفسك. أسرع طريقة لرؤيتها أن تسأل عن شيء تعرفه أنت أفضل من النموذج.
اختر موضوعًا تعرفه معرفة تامة: الموسم الأخير لفريقك المفضل، أو لعبة تتقنها فعلًا، أو فنانًا تتابعه، أو الشوارع القريبة من بيتك. اسأل أي أداة محادثة ذكاء اصطناعي سؤالًا مفصّلًا عنه، سؤالًا يجب أن تحتوي إجابته على أسماء أو تواريخ أو أرقام. ثم اقرأ الرد بعين الخبير الذي أنت عليه، وصحّحه.
حدّثني عن [موضوعك المحدد]. كن مفصّلًا ودقيقًا، واذكر أسماء وتواريخ وأرقامًا.
- تفصيلة واحدة على الأقل جاءت خاطئة، وعرفت أنها خاطئة دون أن تبحث عن أي شيء
- الجزء الخاطئ كُتب بالنبرة الواثقة نفسها التي كُتبت بها الأجزاء الصحيحة
- تجمّعت الأخطاء في أدق الادعاءات: الأسماء والأرقام والتواريخ
كيف ينطبق هذا عليّ؟
ابنِ عادة واحدة: قبل أن تستخدم معلومة أنتجها الذكاء الاصطناعي (AI)، اسأل نفسك هل تستطيع الدفاع عنها لو سألك أحدهم «من أين جئت بهذا؟». إن لم تستطع، فإما أن تتحقق منها أو تحذفها.
- افصل الادعاء عن الكتابة؛ الكتابة غالبًا جيدة، أما الادعاء فقد لا يكون كذلك
- تحقق من كل ما هو محدد بما يكفي ليكون خاطئًا: الأسماء والأرقام والتواريخ والمصادر
- لا تقتبس أبدًا من مصدر أعطاك إياه النموذج قبل أن تفتحه بنفسك أولًا
الطلاقة نفسها التي تجعل الهلوسة مقنعة تجعل رسائل الاحتيال المكتوبة بالذكاء الاصطناعي مقنعة أيضًا. النصيحة القديمة عن اكتشاف الأخطاء اللغوية في رسائل التصيّد انتهت صلاحيتها؛ افترض أن أي نص يمكن إنتاجه بإتقان تام.
- احكم على الرسائل بما تطلب منك فعله ومدى الاستعجال الذي تشعرك به، لا بجودة كتابتها
- أي طلب يجمع بين الاستعجال والسرية والمال أو بيانات الدخول مثير للشك مهما كان متقنًا
- تحقق عبر وسيلة اخترتها أنت: رقم لديك مسبقًا، أو تطبيق فتحته بنفسك
النماذج تخترع واجهات برمجية (APIs) ودوالّ وأسماء حزم تبدو معقولة تمامًا. المترجمات البرمجية والاختبارات هي مدققو الحقائق عندك، وهي أفضل منك بكثير في ذلك من مجرد النظر بعينك.
- لا تثبّت أبدًا حزمة اقترحها نموذج قبل أن تتأكد أنها موجودة فعلًا؛ فالمهاجمون يستولون على الأسماء المخترعة
- شغّل الكود واقرأ رسالة الخطأ بدل أن تثق بشرحٍ لما يفعله الكود
- اطلب أجزاء صغيرة تستطيع التحقق منها، لا نظامًا كاملًا عليك أن تثق به جملةً وتفصيلًا
على الأرجح أنت الشخص الذي يلجأ إليه الأصدقاء والعائلة في أمور التقنية. أنفع ما يمكنك تقديمه لهم ليس قائمة أدوات، بل فكرة أن الثقة ليست دليلًا.
- اشرح الهلوسة بمثال يستطيعون التحقق منه بأنفسهم، لا بالنظريات
- أعطهم قاعدة واحدة سيلتزمون بها فعلًا: تحقق من كل ما ستكرره أمام شخص آخر
- صحّح الطرفين المتطرفين اللذين ستقابلهما: «إنه دائمًا على صواب» و«إنه بلا فائدة»
ارفع العشوائية واخفضها وشاهد الإجابة تتغيّر.