عرض التشغيل بحيث يستطيع الإنسان الحكم عليه
التفسير مُخرَج من مخرجات النموذج
حين يشرح الوكيل الذكي (Agent) سبب فعله لشيء ما، فذلك الشرح نص مولَّد يصف عملية لا يملك النموذج وصولًا مميزًا إليها. كثيرًا ما يكون دقيقًا، وأحيانًا يكون إعادة بناء معقولة الظاهر، ولا توجد طريقة موثوقة للتمييز بينهما من النص وحده. وهذا مهم لأن التبرير السلس مقنع بما يفوق قيمته كدليل، والمراجع الذي يقرأ تبريرًا محكم الصياغة يقتنع بجودة النثر لا بالأدلة. والاستجابة التصميمية ليست إخفاء التفسير، فهو مفيد حقًا، بل وضعه إلى جانب سجل ما حدث فعلًا وليس بديلًا عنه أبدًا. وحيث يختلف الاثنان — يقول الملخص إن السجل فُحص بينما لا تظهر أي عملية قراءة في سجل التتبّع (Trace) — فسجل التتبّع هو الحقيقة. اعرض الملخص كوسيلة مساعدة على الفهم، والمُخرَجات الفعلية كأساس للقرار.
- التبرير المولَّد قد يكون وصفًا دقيقًا أو إعادة بناء معقولة الظاهر
- السلاسة مقنعة بما يفوق قيمتها كدليل
- ضع التفسير إلى جانب سجل ما حدث، لا بديلًا عنه أبدًا
- حين يختلف السرد عن سجل التتبّع، فسجل التتبّع هو الحقيقة
اعرض المُخرَجات والفروق لا السرد
ما يستطيع المراجع الحكم عليه فعلًا ملموس: الفرق (Diff) لما سيتغيّر، والمعاملات الدقيقة للفعل المعلّق، والمقاطع المحددة من المصادر التي يستند إليها الاستنتاج مع مسار يعود إليها، ونتائج التحقق بما فُحص وما أعاده الفحص. هذه أشياء يستطيع الشخص مقارنتها بسرعة بمعرفته، وهذا هو النوع الوحيد من المراجعة الذي يصمد مع أي حجم. أما الملخصات السردية فتستدعي نمطًا مختلفًا — القراءة بحثًا عن المعقولية — وهو بالضبط النمط الذي يفوّت رقم الحساب الخاطئ القابع داخل فقرة تبدو مثالية. وحين يكون التغيير كبيرًا، اعرض شكله قبل تفاصيله: كم سجلًا، ومن أي نوع، وفي أي أنظمة، مع إظهار القيم الشاذة أولًا. المراجعون أبرع بكثير في اكتشاف شيء لا ينتمي إلى المجموعة منهم في تأكيد أن مئة شيء كلها تنتمي إليها.
- الفروق، والمعاملات الدقيقة، والمصادر المستشهد بها مع مسارات إليها، ونتائج التحقق
- السرد يستدعي القراءة بحثًا عن المعقولية، وهكذا تمرّ القيمة الخاطئة
- في التغييرات الكبيرة اعرض الشكل قبل التفاصيل، وأظهر القيم الشاذة أولًا
- يكتشف الناس الشيء الذي لا ينتمي أفضل بكثير مما يؤكدون انتماء مئة شيء
اجعل المصدر مرئيًا
أنفع إضافة منفردة إلى واجهة المراجعة هي: من أين جاء هذا. الفعل المقترح المستمد من سجل في نظامك والفعل المستمد من جملة في بريد إلكتروني وارد قضيتان مختلفتان، ولا يستطيع المراجع التمييز بينهما ما لم تفعل الواجهة ذلك. ضع على المواد التي قادت إلى القرار وسمًا بمصدرها، وميّز المصادر الخارجية أو غير الموثوقة تمييزًا واضحًا. هذا يتقاطع مع المعالجة الأمنية للمشكلة نفسها، ويستحق التنفيذ لأسباب تتعلق بالفهم وحدها: المراجعون يتخذون قرارات أفضل حين يرون ما كان الوكيل يقرؤه. وينطبق الأمر نفسه على الذاكرة (Memory) — الفعل المتّخذ بسبب تفضيل مخزّن يجب أن يُظهر ذلك التفضيل ووقت تسجيله، لأن الذاكرة القديمة تُنتج أفعالًا واثقة لا معنى لها إلا في ضوء حقيقة توقفت عن أن تكون صحيحة منذ أشهر.
- أظهر من أين جاءت المواد التي قادت القرار، وميّز المصادر الخارجية بوضوح
- الفعل المستمد من بريد وارد قضية مختلفة عن فعل مستمد من سجلاتك
- أظهر أي الذكريات المخزّنة أثّرت في القرار، ومتى كُتبت
- إظهار المصدر يحسّن جودة المراجعة العادية، لا كشف الهجمات فقط