سجل النماذج والتوثيق وضبط التغييرات
ما ليس في السجل لا يخضع للإدارة
سجل النماذج (Model inventory) هو العمود الفقري للنظام كله، ونقطة ضعفه المعتادة هي الاكتمال لا الشكل. فالسجل العملي يدوّن كل نموذج مستخدم، ومالكه، والغرض المقصود منه وحدوده، وفئة أهميته النسبية، وحالة التحقق منه وتاريخه، واعتمادياته بما فيها مصادر البيانات وأي نماذج سابقة في السلسلة، وترتيبات مراقبته. وثلاثة أشياء تغيب عادةً: النماذج المضمّنة في أنظمة مشتراة، وجداول البيانات وأدوات الحوسبة لدى المستخدم النهائي ذات الأثر الكبير، وميزات الذكاء الاصطناعي (AI) التي يتبناها فريق أعمال مباشرة دون المرور بمشتريات التقنية. وهذه الفئة الأخيرة هي الأسرع نموًا. والتصنيف حسب الأهمية النسبية هو ما يبقي النظام متناسبًا؛ ودونه يصبح كل شيء إما خاضعًا لحوكمة مفرطة أو مُهمَلًا بصمت.
- دوّن المالك، والاستخدام المقصود وحدوده، والفئة، وحالة التحقق، والاعتماديات، والمراقبة
- النماذج داخل الأنظمة المشتراة وجداول البيانات ذات الأثر الكبير هي الإغفالات الكلاسيكية
- ميزات الذكاء الاصطناعي التي تتبناها فرق الأعمال تتجاوز مشتريات التقنية ولا تصل إلى السجل أبدًا
- التصنيف حسب الأهمية النسبية يبقي الرقابة متناسبة — ودونه ينهار النظام من الطرفين
التوثيق الذي يجب أن يوجد قبل النشر
التوثيق المكتوب بعد التشغيل الفعلي وثيقة مختلفة عن التوثيق المكتوب قبله، والجهات الرقابية تميّز بينهما. فقبل النشر ينبغي أن يوجد بيان بالاستخدام المقصود وحدوده، ومصادر البيانات وتتبّع مصدرها، وسجل تطوير يشمل البدائل المرفوضة، وأداء على مستوى الشرائح لا متوسطًا عامًا، وتقرير التحقق بنتائجه وشروط الموافقة، وخطة مراقبة بعتبات مسمّاة، وتصميم المراجعة، وخطة إيقاف التشغيل. وفي الاتحاد الأوروبي، يضع الملحق الثالث (Annex III) من قانون الذكاء الاصطناعي الأوروبي (EU AI Act) تقييم الجدارة الائتمانية والتقييم الائتماني للأشخاص الطبيعيين في فئة المخاطر العالية، مع استثناء الأنظمة المستخدمة حصرًا لكشف الاحتيال المالي، ويغطي أيضًا تقييم المخاطر والتسعير في التأمين على الحياة والتأمين الصحي. وهذا التصنيف يحمل التزامات توثيق خاصة به.
- الاستخدام المقصود والحدود المعلنة أولًا — فمعظم سوء الاستخدام يعود إلى بيان غرض مبهم
- أداء على مستوى الشرائح، لا متوسط عام يخفي الإخفاقات المهمة
- نتائج التحقق، وشروط الموافقة، وعتبات المراقبة، والضوابط، والبديل الاحتياطي، وإيقاف التشغيل
- في الاتحاد الأوروبي، يصنّف الملحق الثالث الجدارة الائتمانية وتسعير التأمين على الحياة والتأمين الصحي عالية المخاطر، ويستثني كشف الاحتيال البحت
النموذج المعدَّل نموذج جديد
ضبط التغييرات هو ما يميّز الأنظمة الناضجة عن الأنظمة الشكلية. فإعادة التدريب على بيانات أحدث، وإعادة الترجيح، ومصدر مدخلات جديد أو معدَّل، ونقطة قطع منقولة، وتعليمات محرَّرة، ومجموعة نصوص استرجاع مستبدَلة، وترقية إصدار من جهة المزوّد، كلها تغييرات على الشيء الذي وُوفق عليه، وكلٌّ منها يطرح سؤال ما إذا كانت الموافقة ما زالت قائمة. وينبغي أن تحدد الأهمية النسبية مقدار إعادة التحقق التي تلي ذلك، لكن السؤال يجب أن يُطرح والجواب يجب أن يُسجَّل. والحالة الصعبة حقًا هي التغيير الذي لم تبادر به أنت. فاشترط تعاقديًا إخطارًا مسبقًا بتغييرات نموذج المزوّد، واحتفظ بمجموعة تقييم محجوزة تعيد تشغيلها وفق جدول، وراقب تحولات السلوك، لأن الترقية الصامتة لن تعلن عن نفسها.
- إعادة التدريب، وإعادة الترجيح، والمدخلات الجديدة، والعتبات المنقولة، والتعليمات المحرَّرة، والنصوص المستبدَلة كلها تغييرات
- الأهمية النسبية تحدد عمق إعادة التحقق، لكن السؤال يُطرح دائمًا والجواب يُسجَّل
- الحالة الصعبة هي التغيير من جهة المزوّد الذي لم تبادر به وقد لا تلاحظه
- اشترط تعاقديًا الإخطار بالتغيير، واحتفظ بمجموعة تقييم محجوزة، وراقب تحولات السلوك