حين يخطئ الذكاء الاصطناعي داخل تطبيقك
الخطأ الواثق يبدو تمامًا مثل الصواب
إذا كان تطبيقك يستخدم الذكاء الاصطناعي (AI) للتلخيص أو الإجابة أو التصنيف أو كتابة المسودات، فقد أضفت مكوّنًا يفشل بطريقة مختلفة عن كل شيء آخر في البرمجيات. الزر المعطّل يبدو معطّلًا. أما الملخّص الخاطئ فيبدو ملخّصًا. سيكون مكتوبًا بإتقان، ومعقولًا، ومحددًا، ولا شيء على الشاشة يميّزه عن الملخّص الصحيح. ويهمّ هذا أكثر حيث لا يستطيع المستخدمون التحقق من الإجابة بأنفسهم، وهذا عادةً سبب سؤالهم أصلًا. لا شيء هنا يقول تجنّب ميزات الذكاء الاصطناعي. بل يقول إن «أعطى إجابة جيدة حين جرّبته» دليل أضعف هنا من أي مكان آخر، لأن نمط الفشل هذا مصمَّم تحديدًا ليبدو سليمًا.
- المخرجات الخاطئة تصل وهي تبدو تمامًا مثل المخرجات الصحيحة
- الثقة في الصياغة لا تحمل أي معلومة عن الدقة
- الخطر الأكبر حيث لا يستطيع المستخدمون التحقق — وهذا عادةً سبب سؤالهم
- تجربته بضع مرات دليل أضعف من المعتاد هنا
افحصه بالطريقة المملّة
لا تحتاج إحصاءً للحصول على دليل مفيد. اجمع عشرة إلى عشرين مثالًا حقيقيًا: رسائل عملاء فعلية، ومستندات فعلية، وأسئلة فعلية. اكتب ما ستكون عليه الإجابة الجيدة لكل منها. ثم شغّلها وقارن بعينك، واحدًا تلو الآخر. أعِد ذلك كلما غيّرت التعليمات (Prompt) التي تعطيها للذكاء الاصطناعي، لأن لهذه التغييرات آثارًا لن تتوقعها. إنها ظهيرة من العمل الممل، وهي فعلًا الطريقة التي تبدأ بها النسخة الاحترافية أيضًا. النسخة الصارمة تختلف في الحجم والقياس، لا في الفكرة الأساسية: قارن المخرجات بإجابات قررتها مسبقًا.
- عشرة إلى عشرين مثالًا حقيقيًا مع الإجابة التي ستقبلها، مكتوبة أولًا
- قارن بعينك، واحدًا تلو الآخر — هذا يكفي لنموذج أولي
- أعِد تشغيلها كلما غيّرت تعليمات الذكاء الاصطناعي
- الفكرة نفسها في التقييم الاحترافي، لكن أصغر وبلا رياضيات
صمّم على افتراض أنه سيخطئ
الحماية الأكثر فاعلية ليست تعليمات أفضل. بل المكان الذي تضع فيه المخرجات. اجعل نتائج الذكاء الاصطناعي مسودات يوافق عليها شخص، لا إجراءات تُنفَّذ تلقائيًا. اعرض المصدر، حتى يستطيع أحد التحقق منه. اجعل التصحيح سهلًا والإبلاغ سهلًا. لا تسمح أبدًا لمخرجات ذكاء اصطناعي غير مراجَعة بأن ترسل بريدًا إلى عميل، أو تغيّر سجلًا، أو تتخذ قرارًا بشأن شخص. وقل بوضوح في الواجهة إن الإجابة جاءت من الذكاء الاصطناعي وقد تكون خاطئة. المستخدمون الذين يعرفون ذلك يقرؤون بطريقة مختلفة، ويلتقطون أشياء لن تلتقطها أنت أبدًا. التصميم على افتراض الخطأ أرخص وأكثر موثوقية بكثير من محاولة القضاء عليه.
- مسودة للموافقة بدل الإجراء التلقائي، حيثما يتأثر شخص
- اعرض المصادر حتى يمكن التحقق من الإجابة دون الوثوق بها
- قل في الواجهة إنها مولَّدة بالذكاء الاصطناعي وقد تكون خاطئة
- التصميم حول الخطأ أفضل من محاولة القضاء عليه
كيف ينطبق هذا عليّ؟
ستُغرى بالوثوق بميزة الذكاء الاصطناعي. لقد أبهرتك في الأمثلة القليلة الأولى. وهذا الانطباع بالضبط هو ما يُجيد نمط الفشل هذا صنعه.
- احفظ أمثلتك العشرين في ملف وأعِد تشغيلها بعد كل تغيير
- لا تسمح أبدًا لميزة ذكاء اصطناعي بأن تتصرّف تجاه عميل دون أن يضغط شخص زرًا
- اطلب من زميل متشكّك أن يحاول دفعها لقول شيء خاطئ
كل ما يكتبه المستخدمون يصل إلى الذكاء الاصطناعي. وكل ما ينتجه الذكاء الاصطناعي يصل إلى شاشتك. كلا الاتجاهين يستحق الريبة قبل أن تسمح للغرباء بالدخول.
- افترض أن المستخدمين سيلصقون تعليمات لتغيير سلوكه — واختبر ذلك
- لا تزوّده ببيانات لا يحق للمستخدم الحالي رؤيتها
- لا تسمح أبدًا لمخرجاته بأن تشغّل أو ترسل أو تحذف أي شيء دون موافقة بشرية
احفظ أمثلتك والإجابات المتوقعة في ملف يمكن تشغيل المشروع عليه. عندها لا تتطلّب إعادة الفحص إلا أمرًا واحدًا، ولا تعود ظهيرة كاملة من العمل.
- خزّن الأمثلة والإجابات المتوقعة كبيانات، لا في سجل محادثة
- ثبّت ما تستطيع — الإعدادات، والإصدارات، والتعليمات — حتى تُقارَن النتائج بدقة
- النسخة الصارمة من هذا هي دورة «هل يعمل ذكاؤك الاصطناعي فعلاً؟»؛ هنا تبقى بحجم النموذج الأولي
حين يعرض عليك أحد ميزة ذكاء اصطناعي، لا تسأل ماذا تستطيع أن تفعل. اسأل كيف يعرف أنها صحيحة. السؤال المبكر يوفّر عليك محادثة محرجة لاحقًا.
- اسأل ما الأمثلة التي اختبروا عليها، وما الذي توقعوه مسبقًا
- اسأل ماذا يحدث حين تخطئ، ومن يلاحظ ذلك
- الميزة التي تتصرّف دون إشراف تجاه العملاء تحتاج تقييمًا حقيقيًا، لا قائمة فحص