النماذج ليست جديدة هنا
المالية صناعة قائمة على النماذج منذ عقود
تكاد كل القطاعات الأخرى تختبر اتخاذ القرار الإحصائي للمرة الأولى. أما المالية فلا. فبطاقات التقييم الائتماني الإحصائية تقود قرارات الإقراض الاستهلاكي منذ منتصف القرن الماضي. وانتقل كشف الاحتيال من القواعد إلى النماذج المتعلّمة قبل عقود. ونماذج التسعير والتقييم، ونماذج التصنيف، ونماذج رأس المال واختبارات الضغط، والنماذج الاكتوارية، ومراقبة المعاملات لمكافحة غسل الأموال (AML)، والتنفيذ الخوارزمي، كلها تسبق الموجة الحالية بسنوات كثيرة. والأهم من ذلك أن جهازًا رقابيًا نشأ حولها: تعريفات مخاطر النماذج، وتوقعات التحقق المستقل، وسجلات الجرد، ومعايير التوثيق، ولجان الحوكمة. وحين يقول أحدهم في بنك «لدينا بالفعل إجراء لهذا»، فهو في الغالب محق.
- يُقيَّم الائتمان الاستهلاكي إحصائيًا منذ أجيال — اتخاذ القرار الآلي ليس أرضًا جديدة
- نماذج كشف الاحتيال والتقييم ورأس المال والنماذج الاكتوارية والتنفيذ كلها تسبق النماذج اللغوية بزمن طويل
- بنت الجهات الرقابية توقعات مخاطر النماذج حول تلك النماذج: التحقق، والجرد، والتوثيق، والحوكمة
- القدرة المؤسسية على حوكمة النماذج موجودة أصلًا — والسؤال هو هل تتسع لهذا الجديد
ما الذي تغيّر فعلًا
ثلاثة أمور جديدة حقًا. أولًا، أصبحت البيانات غير المهيكلة قابلة للاستخدام: العقود والإفصاحات والرسائل الإلكترونية ونصوص المكالمات ووثائق السياسات والمراسلات الممسوحة ضوئيًا كانت من قبل إما مهملة أو تُعالَج يدويًا بتكلفة. ثانيًا، أصبحت اللغة مُدخلًا وواجهة في آن واحد — فالمستخدم غير التقني يستطيع الآن توجيه نظام بالنثر، وهذا يغيّر من يستطيع استدعاء نموذج ومدى سهولة ذلك. ثالثًا، المخرجات توليدية: فبدلًا من درجة أو تصنيف، ينتج النظام نصًا يبدو مُعلَّلًا. وهذا التغيير الأخير هو المُربك للحوكمة، لأن الدرجة يمكن اختبارها رجعيًا مقابل نتيجة فعلية، أما الفقرة فلا يمكن ذلك، على الأقل ليس بالطريقة نفسها.
- النص غير المهيكل — العقود والإفصاحات والمكالمات والمراسلات — أصبح قابلًا للمعالجة بأحجام كبيرة للمرة الأولى
- اللغة بوصفها واجهة توسّع دائرة من يستطيع استدعاء نموذج، غالبًا خارج الضوابط المبنية لمستخدمي النماذج
- المخرجات التوليدية تستبدل الدرجة بنثر يبدو مُعلَّلًا، سواء جرى استدلال فعلًا أم لا
- للدرجة نتيجة فعلية تُختبر رجعيًا مقابلها؛ أما الفقرة فلا، وتلك هي مشكلة الحوكمة
ما الذي لم يتغيّر، وما الذي أُضيف فوقه
الالتزامات القائمة محايدة تقنيًا إلى حد كبير، ولم يُعلَّق أي منها. لا شيء في بنية جديدة يُسقط واجب التحقق المستقل من النموذج قبل الاعتماد عليه، ولا شيء يُسقط واجبات الإقراض العادل، أو التزامات مكافحة غسل الأموال (AML)، أو متطلبات حفظ السجلات والاتصالات، أو واجبات حماية البيانات، أو اشتراط أن تكون المؤسسة قادرة على تفسير قرار اتخذته بشأن عميل. والمساءلة لا تنتقل كذلك: الشخص المسمّى الذي كان يملك النتيجة من قبل لا يزال يملكها. ما تغيّر هو أن بعض الولايات القضائية أضافت قواعد خاصة بالتقنية فوق هذا الأساس، وقانون الذكاء الاصطناعي الأوروبي (EU AI Act) هو أوضح مثال، وأصدرت عدة جهات رقابية توقعات موجّهة إلى الذكاء الاصطناعي مباشرة. والطبقتان تنطبقان معًا.
- واجبات التحقق والتوثيق والحوكمة ترتبط بالاستخدام، لا بالبنية
- الإقراض العادل، والتزامات مكافحة غسل الأموال واعرف عميلك (KYC)، وقواعد السجلات، وحماية البيانات، لم تُعلَّق قط
- تبقى المساءلة على المالك البشري المسمّى — والوحدة 2 تمدّ ذلك إلى الترتيبات مع الأطراف الثالثة
- حيث يوجد نظام خاص بالذكاء الاصطناعي، مثل قانون الذكاء الاصطناعي الأوروبي، فهو يضاف فوق الأساس ولا يحلّ محلّه
لماذا تكون الاستمرارية طمأنينة وفخًّا في آن
الطمأنينة حقيقية: لديك سجل جرد، ووظيفة تحقق، وإجراء للتغيير، ولجنة تعرف أصلًا كيف تقول لا. معظم المؤسسات لا تحتاج إلى ابتكار نظام حوكمة، بل إلى توسيع نظام قائم. أما الفخ فهو أن الآلية القائمة تفترض ضمنيًا نوعًا معيّنًا من النماذج — حتميًا، بمدخلات رقمية مستقرة، ونتيجة قابلة للقياس تُختبر رجعيًا، ومعاملات يستطيع أحد فحصها، وإصدار تتحكم فيه أنت. وميزة قائمة على نموذج لغوي كبير يمكن أن تخرق كل هذه الافتراضات دفعة واحدة. والفرق التي تمرّرها دون تغيير تنتج تقارير تحقق مليئة بمقاييس لا تعني شيئًا هنا؛ والفرق التي تعلنها خارج النطاق لا تنتج أي إشراف على الإطلاق. ويكمن العمل في تحديد أي الافتراضات القديمة لا يزال صالحًا لهذا الاستخدام، وتوثيق ذلك القرار.
- وسّع نظام مخاطر النماذج الذي لديك بدلًا من بناء نظام موازٍ بجانبه
- الآلية القديمة تفترض الحتمية، والمدخلات الرقمية، ونتيجة قابلة للاختبار الرجعي، وإصدارًا تتحكم فيه
- تمرير ميزة نموذج لغوي كبير دون تغيير ينتج مقاييس تحقق لا تقيس أي شيء ذي صلة
- إعلانها خارج النطاق لأنها لا تتلاءم هو نمط الإخفاق الذي تسأل عنه الجهات الرقابية أولًا