كيف تتحقّق من إجابة الذكاء الاصطناعي قبل أن تستخدمها
أصبحت مساعدات الذكاء الاصطناعي (AI) جيدة إلى حدّ أن معظم ما تقوله صحيح. وهذا تحديدًا ما يجعلها مخادعة. فحين تكون الإجابة خاطئة، تأتي بالنبرة الهادئة الواثقة نفسها التي تأتي بها حين تكون صحيحة. ولا شيء في الصياغة يخبرك أيّهما أمامك.
لا تحتاج إلى الشك في كل شيء، ولا إلى التحقّق من كل جملة. ما تحتاجه روتين قصير للّحظات التي توشك فيها الإجابة على مغادرة شاشتك: إلى رسالة بريد إلكتروني، أو تقرير، أو قرار، أو جزء من كود برمجي. وهذا روتين يستغرق نحو دقيقتين.
الخطوة 1: حدّد الادعاءات التي يضرّك خطؤها
اقرأ الإجابة مرة واحدة واستخرج منها الادعاءات المحدّدة القابلة للتحقّق: الأسماء، والأرقام، والتواريخ، والاقتباسات، والقوانين، والأسعار، والمراجع، وكل ما يُقدَّم على أنه حقيقة عن العالم الواقعي. ثم اسأل عن كل واحد منها: إن كان هذا خطأً، فماذا سيحدث؟
معظم الادعاءات لن تكون مهمة كثيرًا. فشرح غير دقيق قليلًا لمفهوم ستعيد صياغته على أي حال خطره منخفض. أما رقم خاطئ في تقرير لعميل، أو لائحة تنظيمية اقتُبست على نحو خاطئ، أو مرجع مختلَق، فخطره مرتفع. خصّص وقت التحقّق للمجموعة الثانية وحدها. هذا ما يُبقي الروتين قصيرًا.
الخطوة 2: تحقّق من تلك الادعاءات في مصدرها، لا عبر الذكاء الاصطناعي نفسه
سؤال المساعد «هل أنت متأكد؟» يختبر في الغالب ما إذا كان سيغيّر رأيه، لا ما إذا كان محقًّا. فالنماذج كثيرًا ما توافق على ما يوحي به سؤال المتابعة. لذلك تحقّق بالرجوع إلى شيء خارج المحادثة:
- الأرقام والإحصاءات: ابحث عن الناشر الأصلي، مثل مكتب الإحصاء، أو تقرير الشركة، أو الدراسة نفسها.
- القوانين والقواعد: ارجع إلى النص الرسمي أو إلى موقع الجهة التنظيمية نفسها، وتحقّق من التاريخ. فالقواعد تتغيّر.
- الاقتباسات: ابحث عن الصياغة الحرفية. وإن لم تجدها في أي مكان، فتعامل معها على أنها مختلَقة.
- المراجع والروابط: افتحها. فالمراجع المختلَقة من أكثر أخطاء الذكاء الاصطناعي شيوعًا، ونقرة واحدة تكشفها.
- الكود البرمجي: شغّله. فالكود الذي يبدو صحيحًا والكود الذي يعمل أمران مختلفان.
إن كان لدى المساعد ميزة للبحث على الويب أو لذكر المصادر، فهي مفيدة، لكنها لا تُغني عن هذه الخطوة. افتح المصدر وتأكّد من أنه يقول فعلًا ما تزعم الإجابة أنه يقوله.
الخطوة 3: انتبه إلى علامات التحذير
بعض الأنماط ينبغي أن تدفعك إلى تحقّق أدقّ:
- أرقام دقيقة جدًا بلا مصدر. عبارة مثل «73.4% من الشركات» دون ذكر دراسة بعينها علامة خطر.
- الأحداث الحديثة. لكل نموذج تاريخ توقّف لما تعلّمه. وكل ما حدث بعد ذلك التاريخ، أو قريبًا منه، هو حيث تتكدّس الأخطاء.
- التفاصيل المتخصّصة أو المحلية. كلما قلّ ما كُتب عن شيء ما، قلّت موثوقية معرفة النموذج به.
- إجابة تطابق تمامًا ما كنت تتمنّاه. إن طرحت سؤالًا موجِّهًا، فربما حصلت على إجابة موجَّهة.
- تفاصيل واثقة عن أشخاص. الحقائق المتعلقة بسِيَر الأشخاص غير المشهورين كثيرًا ما تكون ممزوجة أو مختلَقة.
الخطوة 4: قرّر إلى أي حدّ تعتمد عليها
بعد التحقّق، ستصل عادةً إلى واحدة من ثلاث نتائج:
- تحقّقت منها وهي صحيحة. استخدمها.
- صحيحة في معظمها، مع بعض الأخطاء. صحّح الأخطاء بنفسك واستخدم الباقي. هذه هي النتيجة الأكثر شيوعًا، وقد أنقذك الروتين للتوّ من خطأ محرج.
- خاطئة في أمر جوهري. لا ترقّعها. ابدأ من جديد من مصدر موثوق، واستخدم المساعد للصياغة أو البنية بدل الحقائق.
ومع الوقت ستعرف أين يكون مساعدك موثوقًا في نوع عملك وأين لا يكون. وهذه المعرفة أثمن من أي قاعدة عامة، فانتبه إليها.
عادة تجعل التحقّق أسهل
أسهل الإجابات تحقّقًا هي تلك التي طلبتها بصيغة قابلة للتحقّق. وحين يكون الأمر جادًّا، أضف إلى طلبك سطرًا كهذا:
اذكر كل ادعاء واقعي على حدة، وأخبرني لكل واحد منها أين يمكنني التحقّق منه.
هذا لا يجعل النموذج أدقّ، لكنه يحوّل الفقرة المنسابة إلى قائمة تحقّق، ويجعل الثغرات واضحة. والادعاء الذي لا مصدر معقولًا له إمّا أن تتحقّق منه وإمّا أن تحذفه.
لمن يريد التعمّق
تشرح دورة أساسيات الذكاء الاصطناعي لماذا تخطئ النماذج أصلًا، مما يسهّل رصد علامات التحذير المذكورة أعلاه. وتغطّي دورة كتابة التعليمات كيف تطلب إجابات يسهل التحقّق منها. وإن كنت تبني أدوات ذكاء اصطناعي للآخرين أو تشتريها لهم، فإن دورة هل يعمل ذكاؤك الاصطناعي فعلاً؟ تحوّل هذا الروتين الشخصي إلى اختبار قابل للتكرار لنظام كامل. وكلها مجانية، مثل كل ما في مركز تعلّم الذكاء الاصطناعي.
الأساس الكامل: من ماهية الذكاء الاصطناعي إلى كيف تفكّر الوكلاء الذكية وتعمل
المهارة التي تحسّن كل ما تفعله مع الذكاء الاصطناعي: ما هي التعليمات حقاً، وكيف تبنيها، وماذا تفعل حين تأتي الإجابة خاطئة
اختبار أنظمة الذكاء الاصطناعي كما يجب: بناء مجموعات التقييم، والحكم على الجودة، واكتشاف التراجع قبل أن يكتشفه مستخدموك