مركز تعلّم الذكاء الاصطناعيEnglish
ترجمة عربية جديدة ✦ نراجعها باستمرار لتحسينها.

حين يتغيّر النظام السائد

⁧النموذج يتعلّم بيئة، لا قانوناً⁩⁧حين يزول العالم الذي لاءمه النموذج، لا تتغيّر صيغة المخرجات ولا درجة الثقة⁩ ⁧النظام يتحوّل⁩⁧العلاقة المُلاءَمة⁩⁧ثقة المخرجات⁩⁧الدقة الفعلية⁩⁧الوقت ←⁩⁧لا حقل في المخرجات يقول إن العالم الذي لاءمه قد زال — ولا سبب لتوقّع وجوده⁩ ⁧ما الذي تضمّنته بيانات التدريب فعلاً⁩ ⁧مستوى الفائدة وشكل منحناها⁩ ⁧نظام تقلّب معيّن⁩ ⁧بيئة تعثّر معيّنة⁩ ⁧مجموعة ارتباطات⁩ ⁧حالة سيولة معيّنة⁩ ⁧السياسة السارية⁩⁧لا شيء منها قانون طبيعي، والنموذج لا يملك تمثيلاً للفرق بين علاقة مستقرة وصدفة⁩ ⁧مراقبة تُنذر قبل الخسارة — ثلاث إشارات وثلاثة تأخيرات⁩ ⁧زمن الاكتشاف ←⁩⁧مراقبة المدخلات⁩ ⁧التوزيعات، القيم الناقصة، الفئات الجديدة، القيم خارج النطاق⁩⁧مراقبة المخرجات⁩ ⁧معدلات الدرجات والموافقة، معدلات التنبيه، تكرار التجاوز البشري⁩⁧مراقبة النتائج⁩ ⁧قد تستغرق النتيجة عاماً — والتعرّض يُقيَّد قبل ذلك بكثير⁩⁧التزم مسبقاً بعتبة التصعيد، وسمِّ من يحق له إيقاف النموذج دون إعادة عقد لجنة، وحدّد البديل أولاً⁩ ⁧النموذج المعاير على سنوات هادئة يخطئ أكثر ما يخطئ في أول سنة سيئة⁩ ⁧الاكتشاف عبر الخسارة هو النتيجة الافتراضية ما لم تُصمَّم المراقبة لتُنذر قبلها⁩
⁧الظروف التي تُعطّل النموذج هي نفسها الظروف التي تجعل الخطأ مكلفاً.⁩

النموذج يتعلّم بيئةً لا قانونًا

كل نموذج دُرّب على بيانات السوق أو الائتمان تعلّم فترة زمنية: مستوى أسعار الفائدة وشكلها، ونظام تقلّب، وبيئة تعثّر، ومجموعة ارتباطات، وحالة سيولة، وأي سياسة صادف أنها كانت سارية. لا شيء من ذلك قانون طبيعي، ولا يملك النموذج أي تمثيل للفرق بين علاقة مستقرة ومصادفة صمدت عقدًا من الزمن. وحين تتحوّل البيئة — دورة أسعار فائدة، أو انتهاء برنامج دعم، أو انقلاب ارتباط، أو تغيّر في بنية السوق — يواصل النموذج إنتاج مخرجاته بالصيغة الواثقة نفسها تمامًا. ولا يوجد في المخرجات حقل يقول إن العالم الذي لاءمه النموذج لم يعد موجودًا، ولا سبب لتوقّع وجوده.

  • بيانات التدريب ترمّز بيئة فائدة وتقلّب وتعثّر وارتباط وسيولة، لا قانونًا
  • لا تستطيع النماذج التمييز بين علاقة دائمة ومصادفة صمدت طويلًا
  • حين يتحوّل النظام السائد تبقى الصيغة والثقة كما هما، ولا يتغيّر إلا مستوى الدقة
  • كلما طال صمود العلاقة زادت الثقة بها وقلّ من يتذكّر على أي شيء كانت تقوم

لماذا يأتي الإخفاق في أسوأ لحظة

تغيّرات النظام السائد ليست عشوائية من حيث التكلفة. فالظروف التي تكسر النموذج — قفزة في التقلّب، أو انسحاب للسيولة، أو انهيار للارتباطات، أو موجة تعثّر — هي الظروف نفسها التي تجعل الخطأ مكلفًا، وتأتي حين تكون المراكز والتمويل واهتمام الإدارة مستنزفة أصلًا. فنموذج المخاطر الذي يقلّل من مخاطر الذيل يقلّل منها تحديدًا عند وقوع الذيل. ونموذج الائتمان المعايَر على سنوات هادئة يكون في أسوأ حالاته خلال أول سنة سيئة. وهذا عكس نمط الإخفاق المعتاد في البرمجيات، حيث تظهر المشكلات عشوائيًا وبتكلفة زهيدة، ولهذا لا يجوز ترك تدهور النموذج ليُكتشف من خلال الخسارة التي يسببها.

  • الظروف التي تكسر النماذج هي الظروف نفسها التي تجعل الخطأ مكلفًا
  • التقليل من مخاطر الذيل يعني التقليل منها تمامًا حين يصل الذيل
  • النموذج المعايَر على سنوات هادئة يكون في أسوأ حالاته خلال أول سنة سيئة
  • الاكتشاف عبر الخسارة هو النتيجة الافتراضية ما لم تُصمَّم المراقبة لتنبّه قبلها

مراقبة تنبّه قبل الخسارة

تغطي الوحدة 2 ما ينتمي إلى إطار إدارة مخاطر النماذج؛ أما هنا فالنقطة هي التوقيت. مراقبة المدخلات هي أبكر إشارة، لأن ما يصل يتغيّر قبل أن تصبح المخرجات خاطئة بوضوح: توزيعات الخصائص، ومعدلات القيم المفقودة، والفئات الجديدة، ومزيج الطلبات، والقيم الخارجة عن النطاق الذي دُرّب عليه النموذج. تليها مراقبة المخرجات — توزيعات الدرجات، ومعدلات الموافقة والتنبيه، وعدد مرات تجاوز البشر لقرار النموذج. ومراقبة النتائج هي الأثمن والأبطأ، لأن النتيجة قد تستغرق عامًا لتُرصد، والتعرّض يُقيَّد قبل ذلك بكثير. لذا التزم مسبقًا بالعتبات: أي تحرّك يستدعي التصعيد، ومن يحق له تعليق النموذج، وعلى ماذا تعمل المؤسسة في الأثناء. تغطي دورة «هل يعمل ذكاؤك الاصطناعي فعلاً؟» أدوات القياس؛ أما الجزء الخاص بالمالية فهو ذلك التأخّر.

  • انحراف المدخلات يظهر قبل تدهور جودة المخرجات — التوزيعات والقيم المفقودة والفئات الجديدة والقيم خارج النطاق
  • مراقبة المخرجات ترصد تحوّلات الدرجات والموافقات والتنبيهات والتجاوزات؛ ومراقبة النتائج تتأخر عن التعرّض
  • التزم مسبقًا بعتبة التصعيد وسمِّ من يحق له تعليق النموذج دون إعادة انعقاد لجنة
  • قرّر البديل قبل أن تحتاجه: العملية اليدوية أو النموذج المنافس الذي تعود إليه المؤسسة