مركز تعلّم الذكاء الاصطناعيEnglish
ترجمة عربية جديدة ✦ نراجعها باستمرار لتحسينها.

المشهد التنظيمي على مستوى المفاهيم

⁧كيف تتكامل الصورة التنظيمية، من حيث المفهوم⁩⁧الشكل العام مشترك إلى حد كبير؛ أما الفئات والالتزامات والعتبات فتختلف باختلاف الولاية القضائية⁩⁧كل شيء يبدأ ببيان الاستخدام المقصود⁩⁧يدّعي غرضًا سريريًا⁩⁧التشخيص أو العلاج أو الفرز أو توجيه قرار سريري⁩⁧يدّعي غرضًا معلوماتيًا أو إداريًا فقط⁩⁧مواد مرجعية، جدولة المواعيد، حفظ السجلات⁩⁧البرنامج نفسه قد يقع على أي جانب من هذا الخط بناءً على ادعائه وحده⁩⁧تصنيف متناسب مع المخاطر⁩⁧بحسب ما قد يسوء⁩⁧شدة الضرر، ومدى⁩⁧إمكانية تداركه.⁩⁧لا تُعامَل كل الأدوات بالمثل⁩⁧التذكير وقرار العلاج⁩⁧بينهما مسافة كبيرة.⁩⁧التصنيف يحدد ما بعده⁩⁧الأدلة وعمق المراجعة⁩⁧وحفظ السجلات كلها تتبعه.⁩⁧التقييم قبل الطرح في السوق⁩⁧استخدام مقصود مُعلن⁩⁧ما الغرض منه، ولمن،⁩⁧مكتوبًا مسبقًا.⁩⁧الأدلة يجب أن تطابق الادعاء⁩⁧الادعاء الأوسع يتطلب⁩⁧أدلة أوسع.⁩⁧مراجعة قبل وصوله إلى الرعاية⁩⁧عمق تلك المراجعة⁩⁧يتبع الفئة التي صُنّف فيها.⁩⁧الرقابة بعد الطرح في السوق⁩⁧الاعتماد ليس النهاية⁩⁧الأداء في الواقع⁩⁧يُراقَب بعد الإطلاق.⁩⁧المشكلات يُبلَّغ عنها⁩⁧هناك التزامات بالرصد⁩⁧والتصعيد.⁩⁧التغييرات قد تعيد فتح المراجعة⁩⁧النموذج المحدَّث قد لا يكون⁩⁧هو الذي اعتُمد.⁩⁧وفي بعض الأماكن، طبقتان في آن واحد⁩⁧قواعد على غرار الأجهزة الطبية — يستدعيها الادعاء السريري المُقدَّم⁩⁧قواعد عامة للذكاء الاصطناعي — تستدعيها التقنية ومستوى مخاطرها، أيًّا كان القطاع⁩⁧حين تنطبق الطبقتان، تتراكم الالتزامات ولا يحلّ بعضها محلّ بعض⁩⁧الشكل العام مشترك إلى حد كبير؛ أما الفئات والالتزامات والعتبات فليست كذلك⁩⁧التفاصيل تختلف باختلاف الولاية القضائية وتتغيّر مع الوقت — تحقّق مما ينطبق حيث أنت⁩
⁧توجيه تعليمي فقط — خريطة مفاهيمية، لا مشورة تنظيمية لأي ولاية قضائية⁩

المنطق المشترك بين الولايات القضائية

تختلف التفاصيل اختلافًا كبيرًا بين الولايات القضائية، لكن البنية الأساسية مشتركة إلى حد بعيد. فالالتزامات متناسبة مع المخاطر: كلما زاد الضرر المحتمل من مخرجات خاطئة، زادت الأدلة والتدقيق المطلوبان. ويجب أن تدعم الأدلة الاستخدام المقصود المحدد لا القدرة العامة. وأنظمة إدارة الجودة والتوثيق الفني مطلوبة، كي تكون طريقة تطوير المنتج قابلة للفحص. وتستمر الالتزامات بعد دخول السوق عبر رقابة ما بعد الطرح والإبلاغ عن الحوادث. إن فهمت هذه المبادئ الأربعة استطعت أن تتوجّه في أي ولاية قضائية وتطرح أسئلة معقولة، حتى دون معرفة الأدوات التنظيمية بعينها — وهذا هو الموقف الصحيح، لأنها تتغيّر.

  • التزامات متناسبة مع المخاطر: ضرر محتمل أعلى يعني عبء أدلة أعلى
  • يجب أن تدعم الأدلة الاستخدام المقصود المعلن، لا القدرة العامة
  • إدارة الجودة والتوثيق الفني يجعلان عملية التطوير قابلة للفحص
  • رقابة ما بعد الطرح والإبلاغ عن الحوادث تستمر بعد الموافقة

الولايات المتحدة والاتحاد الأوروبي، من منظور عام

في الولايات المتحدة، تشرف إدارة الغذاء والدواء الأمريكية (FDA) على برمجيات الأجهزة الطبية عبر إطار قائم على المخاطر يتضمّن مسارات مختلفة إلى السوق، منها مسارات تقوم على إثبات التكافؤ مع جهاز قائم ومسارات للأجهزة المستجدة منخفضة إلى متوسطة المخاطر، إلى جانب مسار أشد صرامة لفئة المخاطر الأعلى. وفي الاتحاد الأوروبي، تُصنَّف برمجيات الأجهزة الطبية بموجب لائحة الأجهزة الطبية (MDR)، مع تقييم مطابقة تشارك فيه جهة مُخطَرة (Notified body) لفئات المخاطر الأعلى، ويضيف قانون الذكاء الاصطناعي الأوروبي (EU AI Act) طبقة أفقية أخرى من الالتزامات على أنظمة الذكاء الاصطناعي المصنّفة عالية المخاطر، وكثير من الأجهزة الطبية منها. والنتيجة العملية في أوروبا نظامان متداخلان يجب استيفاؤهما معًا، لا أن يحل أحدهما محل الآخر.

  • الولايات المتحدة: إطار FDA قائم على المخاطر بمسارات متعددة إلى السوق بحسب درجة الجِدّة وفئة المخاطر
  • الاتحاد الأوروبي: تصنيف وتقييم مطابقة وفق MDR، مع مشاركة جهة مُخطَرة فوق أدنى فئات المخاطر
  • يضيف EU AI Act التزامات المخاطر العالية فوق MDR، لا بدلًا منها
  • الموافقة في ولاية قضائية لا تمنح شيئًا في أخرى

ما تخبرك به الموافقة وما لا تخبرك به

الإجازة أو الشهادة التنظيمية تخبرك أن جهة مصنّعة استوفت معيارًا محددًا من الأدلة لاستخدام مقصود محدد في ولاية قضائية محددة في لحظة زمنية معيّنة. ولا تخبرك أن المنتج سيؤدي جيدًا في مؤسستك، أو أنه يتفوّق على ممارستك الحالية، أو أنه جرى التحقق منه على مرضى يشبهون مرضاك، أو أنه فعّال من حيث التكلفة، أو أنه آمن في سير عمل مختلف عن الذي افتُرض. الوضع التنظيمي حدّ أدنى وبيان نطاق، لا توصية. والمؤسسات التي تعدّه كافيًا تتجاوز التحقق المحلي بحجة أن الجهة التنظيمية فحصت بالفعل — وهذا خطأ في التصنيف، لأن الجهة التنظيمية فحصت شيئًا مختلفًا عمّا تحتاج المؤسسة إلى معرفته.

  • الموافقة تعني أن الأدلة استوفت معيارًا لاستخدام وولاية قضائية ولحظة زمنية محددة
  • لا تعني شيئًا عن الأداء المحلي أو الفائدة المقارنة أو الفعالية من حيث التكلفة
  • الوضع التنظيمي حدّ أدنى وبيان نطاق، وليس توصية أبدًا
  • التعامل مع الموافقة كبديل عن التحقق المحلي خطأ في التصنيف