مركز تعلّم الذكاء الاصطناعيEnglish
ترجمة عربية جديدة ✦ نراجعها باستمرار لتحسينها.

سجل النماذج والتوثيق وضبط التغييرات

⁧السجلّ هو العمود الفقري — والقيود التي تغيب عنه متوقَّعة⁩⁧إعادة التدريب، أو نقل حد القطع، أو تعديل التعليمات، أو ترقية من جهة المزوّد، كلها تغيير لما تمت الموافقة عليه⁩ ⁧ما يسجّله قيد السجلّ⁩ ⁧المالك⁩ ⁧الاستخدام المقصود وحدوده⁩ ⁧فئة الأهمية النسبية⁩ ⁧حالة التحقق وتاريخه⁩ ⁧الاعتماديات — البيانات والنماذج⁩ ⁧ترتيبات المراقبة⁩ ⁧ما يغيب عنه عادةً⁩⁧نماذج مضمّنة داخل أنظمة مشتراة⁩⁧جداول بيانات مؤثرة وأدوات حوسبة يبنيها المستخدمون⁩⁧ميزات ذكاء اصطناعي يعتمدها فريق أعمال دون المرور⁩⁧بمشتريات التقنية — وهي الثغرة الأسرع نمواً⁩⁧التصنيف حسب الأهمية النسبية يُبقي الرقابة متناسبة — ودونه⁩⁧يخضع كل شيء لحوكمة مفرطة أو يُهمَل بصمت⁩ ⁧وثائق يجب أن توجد قبل التشغيل — إن كُتبت بعد الإطلاق فهي وثيقة مختلفة، والجهات الرقابية تدرك ذلك⁩⁧الاستخدام المقصود والقيود⁩⁧المعلنة⁩⁧مصادر البيانات وتتبّع مصدرها⁩⁧سجلّ التطوير —⁩⁧البدائل المرفوضة⁩⁧الأداء حسب الشريحة،⁩⁧لا متوسطاً إجمالياً⁩⁧تقرير التحقق — النتائج⁩⁧وشروط الموافقة⁩⁧خطة مراقبة بعتبات⁩⁧مسمّاة⁩⁧تصميم المراجعة⁩⁧خطة الإيقاف⁩⁧في الاتحاد الأوروبي، يضع الملحق III من قانون الذكاء الاصطناعي تقييم الجدارة الائتمانية والتقييم الائتماني للأشخاص الطبيعيين في فئة المخاطر العالية،⁩⁧ويشمل تقييم المخاطر والتسعير في التأمين على الحياة والصحة — مستثنياً الأنظمة المستخدمة لكشف الاحتيال المالي فقط⁩ ⁧النموذج المعدَّل نموذج جديد⁩ ⁧إعادة التدريب⁩ ⁧إعادة الترجيح⁩ ⁧مصدر مدخلات جديد⁩ ⁧نقل حد القطع⁩ ⁧تعديل التعليمات⁩ ⁧استبدال المدوّنة⁩ ⁧ترقية من المزوّد⁩⁧كلٌّ منها يطرح السؤال نفسه — هل ما زالت الموافقة قائمة؟ الأهمية النسبية تحدد العمق، والجواب يُسجَّل⁩⁧الحالة الصعبة هي التغيير الذي لم تبادر به⁩⁧اشترط في العقد إشعاراً مسبقاً، واحتفظ بمجموعة تقييم منفصلة، وراقب تحوّلات السلوك — فالترقية الصامتة لن تعلن عن نفسها⁩ ⁧نقطة الضعف المعتادة هي الاكتمال، لا الشكل⁩ ⁧ميزات الذكاء الاصطناعي التي تعتمدها فرق الأعمال تتجاوز مشتريات التقنية، وهي الفئة الأسرع نمواً على الإطلاق⁩
⁧ما ليس في السجلّ لا تتم إدارته — والنموذج المعدَّل نموذج جديد.⁩

ما ليس في السجل لا يخضع للإدارة

سجل النماذج (Model inventory) هو العمود الفقري للنظام كله، ونقطة ضعفه المعتادة هي الاكتمال لا الشكل. فالسجل العملي يدوّن كل نموذج مستخدم، ومالكه، والغرض المقصود منه وحدوده، وفئة أهميته النسبية، وحالة التحقق منه وتاريخه، واعتمادياته بما فيها مصادر البيانات وأي نماذج سابقة في السلسلة، وترتيبات مراقبته. وثلاثة أشياء تغيب عادةً: النماذج المضمّنة في أنظمة مشتراة، وجداول البيانات وأدوات الحوسبة لدى المستخدم النهائي ذات الأثر الكبير، وميزات الذكاء الاصطناعي (AI) التي يتبناها فريق أعمال مباشرة دون المرور بمشتريات التقنية. وهذه الفئة الأخيرة هي الأسرع نموًا. والتصنيف حسب الأهمية النسبية هو ما يبقي النظام متناسبًا؛ ودونه يصبح كل شيء إما خاضعًا لحوكمة مفرطة أو مُهمَلًا بصمت.

  • دوّن المالك، والاستخدام المقصود وحدوده، والفئة، وحالة التحقق، والاعتماديات، والمراقبة
  • النماذج داخل الأنظمة المشتراة وجداول البيانات ذات الأثر الكبير هي الإغفالات الكلاسيكية
  • ميزات الذكاء الاصطناعي التي تتبناها فرق الأعمال تتجاوز مشتريات التقنية ولا تصل إلى السجل أبدًا
  • التصنيف حسب الأهمية النسبية يبقي الرقابة متناسبة — ودونه ينهار النظام من الطرفين

التوثيق الذي يجب أن يوجد قبل النشر

التوثيق المكتوب بعد التشغيل الفعلي وثيقة مختلفة عن التوثيق المكتوب قبله، والجهات الرقابية تميّز بينهما. فقبل النشر ينبغي أن يوجد بيان بالاستخدام المقصود وحدوده، ومصادر البيانات وتتبّع مصدرها، وسجل تطوير يشمل البدائل المرفوضة، وأداء على مستوى الشرائح لا متوسطًا عامًا، وتقرير التحقق بنتائجه وشروط الموافقة، وخطة مراقبة بعتبات مسمّاة، وتصميم المراجعة، وخطة إيقاف التشغيل. وفي الاتحاد الأوروبي، يضع الملحق الثالث (Annex III) من قانون الذكاء الاصطناعي الأوروبي (EU AI Act) تقييم الجدارة الائتمانية والتقييم الائتماني للأشخاص الطبيعيين في فئة المخاطر العالية، مع استثناء الأنظمة المستخدمة حصرًا لكشف الاحتيال المالي، ويغطي أيضًا تقييم المخاطر والتسعير في التأمين على الحياة والتأمين الصحي. وهذا التصنيف يحمل التزامات توثيق خاصة به.

  • الاستخدام المقصود والحدود المعلنة أولًا — فمعظم سوء الاستخدام يعود إلى بيان غرض مبهم
  • أداء على مستوى الشرائح، لا متوسط عام يخفي الإخفاقات المهمة
  • نتائج التحقق، وشروط الموافقة، وعتبات المراقبة، والضوابط، والبديل الاحتياطي، وإيقاف التشغيل
  • في الاتحاد الأوروبي، يصنّف الملحق الثالث الجدارة الائتمانية وتسعير التأمين على الحياة والتأمين الصحي عالية المخاطر، ويستثني كشف الاحتيال البحت

النموذج المعدَّل نموذج جديد

ضبط التغييرات هو ما يميّز الأنظمة الناضجة عن الأنظمة الشكلية. فإعادة التدريب على بيانات أحدث، وإعادة الترجيح، ومصدر مدخلات جديد أو معدَّل، ونقطة قطع منقولة، وتعليمات محرَّرة، ومجموعة نصوص استرجاع مستبدَلة، وترقية إصدار من جهة المزوّد، كلها تغييرات على الشيء الذي وُوفق عليه، وكلٌّ منها يطرح سؤال ما إذا كانت الموافقة ما زالت قائمة. وينبغي أن تحدد الأهمية النسبية مقدار إعادة التحقق التي تلي ذلك، لكن السؤال يجب أن يُطرح والجواب يجب أن يُسجَّل. والحالة الصعبة حقًا هي التغيير الذي لم تبادر به أنت. فاشترط تعاقديًا إخطارًا مسبقًا بتغييرات نموذج المزوّد، واحتفظ بمجموعة تقييم محجوزة تعيد تشغيلها وفق جدول، وراقب تحولات السلوك، لأن الترقية الصامتة لن تعلن عن نفسها.

  • إعادة التدريب، وإعادة الترجيح، والمدخلات الجديدة، والعتبات المنقولة، والتعليمات المحرَّرة، والنصوص المستبدَلة كلها تغييرات
  • الأهمية النسبية تحدد عمق إعادة التحقق، لكن السؤال يُطرح دائمًا والجواب يُسجَّل
  • الحالة الصعبة هي التغيير من جهة المزوّد الذي لم تبادر به وقد لا تلاحظه
  • اشترط تعاقديًا الإخطار بالتغيير، واحتفظ بمجموعة تقييم محجوزة، وراقب تحولات السلوك