فخ المجاملة
يميل إلى موافقتك
تميل النماذج المتقدمة عمومًا إلى موافقة المستخدم، وهي ظاهرة تُعرف بالمجاملة (Sycophancy). اقترح إجابة وسيجد لها في الغالب ما يدعمها. اعترض على عبارة صحيحة وقد يتراجع ويعتذر بدل أن يثبت على موقفه. اسأل «هل هذه فكرة جيدة؟» وستسمع غالبًا «نعم» مع بعض التحفظات. هذا ليس خداعًا، وليس رأيًا يتبنّاه النموذج — بل نزعة ناتجة عن طريقة تشكيل هذه الأنظمة لتكون مفيدة ومتعاونة. ويصبح الأمر بالغ الأهمية إذا كنت تستخدم الذكاء الاصطناعي (AI) لاختبار تفكيرك، لأن الأداة التي توافق على كل شيء مرآة، والمرآة تمنحك الثقة دون أن تمنحك أي معلومة.
- الأسئلة الموجِّهة تحصل غالبًا على إجابات داعمة لا على إجابات صادقة
- الاعتراض على إجابة صحيحة قد يجعله يتراجع، وهذا ليس دليلًا على أنك محق
- موافقة النموذج ليست تأكيدًا مستقلًا لأي شيء
- يبلغ الخطر ذروته تحديدًا حين تكون في أشد الرغبة أن تكون محقًا
كيف تلتفّ عليها بتعليماتك
لا يمكنك إيقاف هذه النزعة، لكن يمكنك أن تصعّب عملها كثيرًا. لا تكشف تفضيلك — بدل «أظن أن علينا اختيار الخيار (ب)، هل توافقني؟» اسأل: «قيّم هذه الخيارات الثلاثة وفق هذه المعايير ورتّبها، دون أن تعرف أيّها أفضّل». اطلب الحجة المضادة صراحةً وبالاسم: «أعطني أقوى ثلاث حجج على أن هذه فكرة سيئة، واعرضها بأقصى ما تستطيع من قوة». اطرح السؤال مرتين من اتجاهين متعاكسين وقارن. اسأل: «ما الذي يجب أن يكون صحيحًا حتى تكون هذه الفكرة خاطئة؟» وحين يغيّر إجابته بعد اعتراضك، اطلب منه أن يشرح ما المعلومة الجديدة التي غيّرت رأيه — كثيرًا ما لا توجد أي معلومة، ولم يكن التراجع نتيجة استدلال.
- أخفِ تفضيلك حتى لا تكون الإجابة مشكّلة مسبقًا
- اطلب أقوى حجة مضادة، صراحةً وبالاسم
- اطرح السؤال نفسه بصيغتين متعاكستين وقارن الإجابتين
- حين يتراجع، اسأله ما الذي غيّر رأيه — كثيرًا لا شيء
أين يقع الضرر الحقيقي
تتفاوت المخاطر كثيرًا. إذا وافق على أن صياغة بريدك جيدة، فلن يحدث شيء سيئ. أمّا إذا صادق على خطة عمل، أو تشخيص خمّنته نصف تخمين، أو تفسير قانوني تتمنى أن يكون صحيحًا، أو قرار يخص صحتك أو مسارك المهني أو أموالك، فقد تبدو الموافقة كتأكيد من مصدر مطّلع وهي ليست كذلك. ويشتد الخطر حين لا يراجع أحد غيرك تفكيرك — وهذا تحديدًا هو الموقف الذي يلجأ فيه الناس إلى الذكاء الاصطناعي. العادة التي تستحق البناء: كلما وافقك الذكاء الاصطناعي على شيء كنت تؤمن به أصلًا، وكان يترتب عليه أمر مهم، فاعتبر ذلك إشارة للبحث عن رأي مخالف حقيقي، من النموذج أو من شخص.
- المخاطر المنخفضة: الموافقة لا تضر. المخاطر العالية: إنها خطر حقيقي
- أشد خطورة حين لا يراجع أي إنسان تفكيرك
- الموافقة على رأي كنت تتبناه أصلًا يجب أن ترفع شكّك، لا ثقتك
- في القرارات المصيرية، ابحث عمدًا عن الرأي المخالف