مركز تعلّم الذكاء الاصطناعيEnglish
ترجمة عربية جديدة ✦ نراجعها باستمرار لتحسينها.

عرض التشغيل بحيث يستطيع الإنسان الحكم عليه

⁧اعرض الأدلة بجانب الرواية، لا الرواية وحدها أبدًا⁩⁧شرح الوكيل نص مولَّد عن عملية لا يملك اطلاعًا خاصًا عليها — سلس، وربما إعادة بناء لاحقة⁩⁧واجهة المراجعة⁩⁧الرواية — أداة مساعدة⁩⁧تُقرأ بسلاسة؛ قد تكون دقيقة⁩⁧أو إعادة بناء مقنعة⁩⁧— والنص وحده لا يستطيع⁩⁧أن يخبرك أيّهما⁩⁧مقنعة بما يفوق⁩⁧قيمتها كدليل⁩⁧المُخرَجات — أساس القرار⁩⁧الفروقات (Diff)⁩⁧ما سيتغير فعلًا،⁩⁧معروضًا كفرق⁩⁧المعاملات الدقيقة⁩⁧للإجراء المعلّق، لا⁩⁧ملخّصًا لها⁩⁧المصادر المستشهَد بها⁩⁧المقاطع المعتمَد عليها،⁩⁧مع مسارات العودة إليها⁩⁧نتائج التحقّق⁩⁧ما فُحص⁩⁧وما أسفر عنه⁩⁧المصدر، موسومًا —⁩⁧من سجلاتك أنت⁩⁧من بريد وارد — خارجي⁩⁧من الذاكرة المخزّنة — مؤرَّخ⁩⁧الإجراء المستمد من بريد وارد أمر مختلف عن إجراء مستمد من سجلاتك⁩⁧حين يختلف الملخّص عن سجل التتبّع، فالسجل هو الحقيقة⁩⁧في التغييرات الكبيرة، اعرض الشكل العام قبل التفاصيل — الحالات الشاذة أولًا⁩⁧كم سجلًا، ومن أي نوع، وفي أي أنظمة — مع إبراز الحالات الشاذة أولًا⁩⁧يلاحظ الناس الشيء الدخيل أفضل بكثير مما يؤكدون مئة شيء سليم⁩⁧يُعرض الشرح بجانب السجل، لا بديلًا عنه أبدًا⁩⁧المبرّر السلس يُقنع بجودة صياغته — أعطِ المراجِع ما يمكنه التحقق منه بمعرفته الخاصة⁩
⁧يحكم المراجِع على الفروقات والمعاملات والمصادر ونتائج التحقق — والشرح المولَّد يقف بجانب هذا السجل ولا يحل محله أبدًا⁩

التفسير مُخرَج من مخرجات النموذج

حين يشرح الوكيل الذكي (Agent) سبب فعله لشيء ما، فذلك الشرح نص مولَّد يصف عملية لا يملك النموذج وصولًا مميزًا إليها. كثيرًا ما يكون دقيقًا، وأحيانًا يكون إعادة بناء معقولة الظاهر، ولا توجد طريقة موثوقة للتمييز بينهما من النص وحده. وهذا مهم لأن التبرير السلس مقنع بما يفوق قيمته كدليل، والمراجع الذي يقرأ تبريرًا محكم الصياغة يقتنع بجودة النثر لا بالأدلة. والاستجابة التصميمية ليست إخفاء التفسير، فهو مفيد حقًا، بل وضعه إلى جانب سجل ما حدث فعلًا وليس بديلًا عنه أبدًا. وحيث يختلف الاثنان — يقول الملخص إن السجل فُحص بينما لا تظهر أي عملية قراءة في سجل التتبّع (Trace) — فسجل التتبّع هو الحقيقة. اعرض الملخص كوسيلة مساعدة على الفهم، والمُخرَجات الفعلية كأساس للقرار.

  • التبرير المولَّد قد يكون وصفًا دقيقًا أو إعادة بناء معقولة الظاهر
  • السلاسة مقنعة بما يفوق قيمتها كدليل
  • ضع التفسير إلى جانب سجل ما حدث، لا بديلًا عنه أبدًا
  • حين يختلف السرد عن سجل التتبّع، فسجل التتبّع هو الحقيقة

اعرض المُخرَجات والفروق لا السرد

ما يستطيع المراجع الحكم عليه فعلًا ملموس: الفرق (Diff) لما سيتغيّر، والمعاملات الدقيقة للفعل المعلّق، والمقاطع المحددة من المصادر التي يستند إليها الاستنتاج مع مسار يعود إليها، ونتائج التحقق بما فُحص وما أعاده الفحص. هذه أشياء يستطيع الشخص مقارنتها بسرعة بمعرفته، وهذا هو النوع الوحيد من المراجعة الذي يصمد مع أي حجم. أما الملخصات السردية فتستدعي نمطًا مختلفًا — القراءة بحثًا عن المعقولية — وهو بالضبط النمط الذي يفوّت رقم الحساب الخاطئ القابع داخل فقرة تبدو مثالية. وحين يكون التغيير كبيرًا، اعرض شكله قبل تفاصيله: كم سجلًا، ومن أي نوع، وفي أي أنظمة، مع إظهار القيم الشاذة أولًا. المراجعون أبرع بكثير في اكتشاف شيء لا ينتمي إلى المجموعة منهم في تأكيد أن مئة شيء كلها تنتمي إليها.

  • الفروق، والمعاملات الدقيقة، والمصادر المستشهد بها مع مسارات إليها، ونتائج التحقق
  • السرد يستدعي القراءة بحثًا عن المعقولية، وهكذا تمرّ القيمة الخاطئة
  • في التغييرات الكبيرة اعرض الشكل قبل التفاصيل، وأظهر القيم الشاذة أولًا
  • يكتشف الناس الشيء الذي لا ينتمي أفضل بكثير مما يؤكدون انتماء مئة شيء

اجعل المصدر مرئيًا

أنفع إضافة منفردة إلى واجهة المراجعة هي: من أين جاء هذا. الفعل المقترح المستمد من سجل في نظامك والفعل المستمد من جملة في بريد إلكتروني وارد قضيتان مختلفتان، ولا يستطيع المراجع التمييز بينهما ما لم تفعل الواجهة ذلك. ضع على المواد التي قادت إلى القرار وسمًا بمصدرها، وميّز المصادر الخارجية أو غير الموثوقة تمييزًا واضحًا. هذا يتقاطع مع المعالجة الأمنية للمشكلة نفسها، ويستحق التنفيذ لأسباب تتعلق بالفهم وحدها: المراجعون يتخذون قرارات أفضل حين يرون ما كان الوكيل يقرؤه. وينطبق الأمر نفسه على الذاكرة (Memory) — الفعل المتّخذ بسبب تفضيل مخزّن يجب أن يُظهر ذلك التفضيل ووقت تسجيله، لأن الذاكرة القديمة تُنتج أفعالًا واثقة لا معنى لها إلا في ضوء حقيقة توقفت عن أن تكون صحيحة منذ أشهر.

  • أظهر من أين جاءت المواد التي قادت القرار، وميّز المصادر الخارجية بوضوح
  • الفعل المستمد من بريد وارد قضية مختلفة عن فعل مستمد من سجلاتك
  • أظهر أي الذكريات المخزّنة أثّرت في القرار، ومتى كُتبت
  • إظهار المصدر يحسّن جودة المراجعة العادية، لا كشف الهجمات فقط