مركز تعلّم الذكاء الاصطناعيEnglish
ترجمة عربية جديدة ✦ نراجعها باستمرار لتحسينها.

حين يكون النموذج مخطئًا ببساطة

⁧حين لا تصلحه أي إعادة صياغة⁩⁧ليس كل ناتج سيئ يعني أن تعليماتك سيئة — معرفة الفرق مهارة حقيقية توفّر ساعات حقيقية⁩⁧خارج ما يتقنه بموثوقية — لا تعليمات تصلح هذه⁩⁧حسابات طويلة متعددة الخطوات بلا آلة حاسبة أو أداة⁩⁧ما حدث مؤخرًا، أو ما هو صحيح الآن⁩⁧عدّ الحروف والرموز المفردة أو تعديلها⁩⁧حقائق لم تُدوَّن في أي مكان⁩⁧هنا تحسّن التعليمات الأفضل العرض لا الصحة — ما يجعل الإجابة الخاطئة أكثر إقناعًا⁩⁧قاعدة التوقف — ثلاث محاولات مختلفة فعلًا⁩⁧المحاولة 1 — إضافة سياق⁩⁧المحاولة 2 — تقسيم المهمة⁩⁧المحاولة 3 — زاوية جديدة⁩⁧ما زال خاطئًا؟ توقّف⁩⁧ثلاث صياغات للطلب نفسه لا تُحتسب — كل محاولة يجب أن تغيّر شيئًا حقيقيًا⁩⁧ثم:⁩⁧صغّر المهمة⁩⁧قدّم ما كان ناقصًا⁩⁧انتقل إلى أداة مناسبة⁩⁧أنجزها بنفسك⁩⁧أخطاء لا تستطيع رؤيتها⁩⁧اكتشاف الخطأ يتطلب معرفة قد لا تملكها — في مجال جديد يبدو كل شيء معقولًا بالقدر نفسه⁩⁧هناك اعتمد على مصادر خارجية — استخدم النموذج لفهم ملامح الموضوع، لا مرجعًا لتفاصيله⁩⁧ثلاث محاولات مختلفة، ثم غيّر شيئًا جوهريًا⁩⁧المحاولات السهلة تبدو منتجة — وهكذا تضيع ساعة في مهمة من خمس دقائق⁩
⁧بعض المهام خارج ما يتقنه النموذج بموثوقية — بعد ثلاث محاولات مختلفة فعلًا، غيّر شيئًا جوهريًا بدل الصياغة.⁩

ليس كل فشل فشلًا في التعليمات

ثمة اعتقاد، يغذّيه كثير من المحتوى المتحمّس، بأن أي مخرجات سيئة تعني أنك كتبت التعليمات (Prompt) بشكل سيئ. هذا غير صحيح، والإيمان به يهدر وقتًا حقيقيًا. بعض المهام تقع فعلًا خارج ما يؤديه النموذج اللغوي (Language model) بموثوقية: الحسابات الدقيقة متعددة الخطوات دون أدوات، ومعرفة ما حدث مؤخرًا أو ما هو صحيح الآن، وعدّ الأحرف المفردة أو التلاعب بها، وأي شيء يتطلب معلومات لم تُكتب في أي مكان قط. في هذه الحالات، التعليمات الأفضل تحسّن طريقة عرض الإجابة لا صحتها — وهذا أسوأ من عديم الفائدة، لأنه يجعل الإجابة الخاطئة أكثر إقناعًا. التمييز بين «أنا من أخطأ في الطلب» و«هذه ليست مهمة هذه الأداة» مهارة حقيقية.

  • الحسابات الدقيقة متعددة الخطوات دون آلة حاسبة أو أداة غير موثوقة
  • الحقائق الحالية أو الحية أو الحديثة جدًا ليست مما يعرفه النموذج بنفسه
  • المعلومات التي لم تُكتب قط لا يمكن استرجاعها، بل اختلاقها فقط
  • في هذه المهام، التعليمات الأفضل تحسّن الطلاقة لا الحقيقة

ثلاث محاولات ثم غيّر الطريقة

قاعدة توقّف عملية: إذا لم توصلك ثلاث محاولات مختلفة فعلًا إلى ما تريد، فتوقف عن كتابة التعليمات وغيّر شيئًا جوهريًا. «مختلفة» لا تعني معاد صياغتها — بل تعني أنك قدّمت سياقًا إضافيًا، أو قسّمت المهمة، أو تناولتها من زاوية أخرى. فشل ثلاث محاولات كهذه دليل قوي على أن المشكلة ليست في الصياغة. عندها تكون الخيارات: تقسيم المهمة إلى أجزاء أصغر يستطيع النموذج إنجازها، أو إعطاؤه المعلومات التي كانت تنقصه، أو استخدام أداة مصممة لهذه المهمة، أو إنجازها بنفسك. الاستمرار في المحاولة بعد هذه النقطة يبدو مثمرًا لأن كل محاولة رخيصة، وهو أكثر الطرق شيوعًا لإضاعة ساعة على مهمة كانت تحتاج خمس دقائق بأسلوب مختلف.

  • إشارة التوقف هي ثلاث محاولات مختلفة فعلًا، لا ثلاث إعادات صياغة
  • بعدها: قلّص المهمة، أو قدّم ما كان ناقصًا، أو غيّر الأداة، أو أنجزها بنفسك
  • سهولة إعادة المحاولة تجعل الوقوع في فخ التكلفة الغارقة أمرًا سهلًا
  • إدراك سقف قدرات الأداة مبكرًا أثمن من تعليمات ذكية إضافية

أخطاء لا تراها

وراء كل هذا اعتماد غير مريح: قدرتك على اكتشاف الخطأ تتناسب مع مقدار ما تعرفه أصلًا عن الموضوع. في مجال تفهمه، يقفز الادعاء الخاطئ أمام عينيك. وفي مجال جديد عليك، يبدو كل شيء معقولًا بالقدر نفسه ولا تستطيع الإشراف على المخرجات إطلاقًا — وهذا بالضبط الموقف الذي يرغب فيه الناس أكثر من غيره في استخدام الذكاء الاصطناعي. هذه ليست حجة ضد استخدامه، بل حجة لاستخدامه بوعي: في المجالات غير المألوفة، امنح المصادر الخارجية وزنًا أكبر، وفضّل الادعاءات القابلة للتحقق على الملخصات الواثقة، وتعامل مع الذكاء الاصطناعي كوسيلة لتعلّم الملامح العامة لموضوع ما، لا كمرجع موثوق في تفاصيله.

  • لا يمكنك التحقق مما لا تفهمه — المبتدئون يواجهون الخطر الأكبر
  • في المجالات غير المألوفة، اعتمد على المصادر الخارجية لا على ثقة النموذج
  • اطلب الادعاءات بصيغة قابلة للفحص حتى يصبح التحقق ممكنًا أصلًا
  • استخدمه لتتعرّف على مجال جديد؛ لا تستخدمه كمرجع نهائي فيه

كيف ينطبق هذا عليّ؟

للجميع

عادتان تغطيان معظم هذه الوحدة. قبل إعادة المحاولة، اسأل نفسك أيّ الأسباب الأربعة أمامك. وحين تجد نفسك سعيدًا لأنه وافقك، فاعتبر ذلك سببًا للتحقق لا للاطمئنان.

  • شخّص قبل أن تعيد المحاولة — غموض، أو نقص سياق، أو مهمة ضخمة، أو خطأ صريح
  • صِف الفجوة في جملة واحدة محددة بدل أن تقول إنه خطأ
  • الموافقة على ما كنت تعتقده أصلًا ليست تأكيدًا لأي شيء
الأمن والخصوصية

يصبح الاختلاق والمجاملة كلاهما مشكلة أمنية حين تغذّي مخرجات الذكاء الاصطناعي قرارًا يتعلق بالمخاطر. تعامل بريبة خاصة مع الإجابات الواثقة عن بيئتك التقنية تحديدًا — فهناك يكون لدى النموذج أقل ما يستند إليه.

  • التفاصيل الواثقة عن أنظمتك الخاصة هي الأقل احتمالًا أن تستند إلى أي شيء
  • لا تجعل إجابة الذكاء الاصطناعي الأساس الوحيد لقرار أمني أو قرار امتثال
  • اطلب طريقة التفكير والمصادر حتى يكون الادعاء قابلًا للتدقيق لا مقنعًا فحسب
للمطوّرين

الإجابة المقنعة الخاطئة هي نمط الفشل المكلف في أي شيء تبنيه، لأنها تمرّ من المراجعة. صمّم نظامك على أساس التحقق بدل أن تأمل أن تزيلها تعليمات أفضل.

  • فضّل المخرجات المهيكلة التي يمكنك التحقق منها آليًا على النصوص التي يجب قراءتها
  • أعطِ النموذج أداة حقيقية للحساب والبحث والبيانات الحالية بدل الإلحاح في التعليمات
  • أضف مسارًا صريحًا لـ«المعلومات غير كافية» حتى تكون الإجابة الصادقة متاحة
لمن يقدّم المشورة

أثمن ما يمكنك تعليمه لفريق هو قاعدة التوقف. فالأفراد سيظلون يحاولون في مهمة ميؤوس منها لساعة كاملة، لأن كل محاولة تكلّف ثوانيَ وتبدو كأنها تقدّم.

  • علّم قاعدة المحاولات الثلاث صراحةً — فمعظم الناس ليس لديهم أي معيار للتوقف
  • اعرض ظاهرة المجاملة مباشرةً في ورشة عمل؛ فهي أكثر إقناعًا من وصفها
  • حدّد توقعات التحقق بحسب العواقب، لا بسياسة شاملة لن يلتزم بها أحد
✎ أنهيت الوحدة!
اختبر نفسك في «عندما تسوء الأمور» ←