مركز تعلّم الذكاء الاصطناعيEnglish
ترجمة عربية جديدة ✦ نراجعها باستمرار لتحسينها.

تنظيم الذكاء الاصطناعي وحوكمته

⁧تنظيم الذكاء الاصطناعي وحوكمته: فئات المخاطر والمشهد العالمي⁩ ⁧رسم يُظهر هرم المخاطر رباعي المستويات في قانون الذكاء الاصطناعي الأوروبي (EU AI Act) على اليمين، والمشهد التنظيمي العالمي على اليسار، وقائمة الجاهزية للامتثال في الأسفل.⁩ ⁧تنظيم الذكاء الاصطناعي وحوكمته: مستويات المخاطر والمشهد العالمي⁩ ⁧قانون الذكاء الاصطناعي الأوروبي — تصنيف حسب المخاطر⁩ ⁧مخاطر غير مقبولة⁩ ⁧محظور — التقييم الاجتماعي، المراقبة البيومترية العامة⁩ ⁧مخاطر عالية⁩ ⁧التوظيف، الائتمان، الرعاية الصحية، إنفاذ القانون⁩ ⁧تقييم المطابقة · إشراف بشري · سجل تدقيق⁩ ⁧مخاطر محدودة⁩ ⁧روبوتات المحادثة، أنظمة التوصية — أفصِح أنه ذكاء اصطناعي⁩ ⁧مخاطر ضئيلة⁩ ⁧مرشحات البريد المزعج، الألعاب — لا التزامات محددة⁩ ⁧المشهد العالمي — كل الولايات القضائية الكبرى تتحرك⁩ ⁧أوروبا⁩ ⁧قانون الذكاء الاصطناعي — شامل، نافذ منذ 2024⁩ ⁧قواعد المخاطر العالية ديسمبر 2027 / أغسطس 2028 · حتى €35M أو 7% من الإيرادات⁩ ⁧أمريكا⁩ ⁧أوامر تنفيذية + قواعد قطاعية⁩ ⁧FDA · EEOC · CFPB تصدر إرشادات خاصة بالذكاء — لا قانون شامل موحّد⁩ ⁧بريطانيا⁩ ⁧قائم على مبادئ داعمة للابتكار⁩ ⁧الجهات القطاعية تطبّق صلاحياتها القائمة — لا قانون مخصص للذكاء (بعد)⁩ ⁧الصين⁩ ⁧لوائح الذكاء الاصطناعي التوليدي (2023)⁩ ⁧تقييم أمني وضوابط محتوى مطلوبة قبل النشر⁩ ⁧جاهزية الامتثال — الركائز الأربع التي يتوقعها المشترون الخاضعون للتنظيم⁩ ⁧بطاقات النماذج⁩ ⁧مصدر البيانات، القيود⁩ ⁧المعروفة، نتائج التقييم⁩ ⁧توثيق حي⁩ ⁧سجلات التدقيق⁩ ⁧كل قرار للذكاء مسجّل⁩ ⁧مع مدخلاته ومخرجاته⁩ ⁧غير قابلة للتعديل، قابلة للاسترجاع⁩ ⁧الإشراف البشري⁩ ⁧القدرة على المراجعة والتجاوز⁩ ⁧في القرارات المصيرية⁩ ⁧مدمج في التصميم، لا مضاف لاحقًا⁩ ⁧تدقيق التحيّز والمخاطر⁩ ⁧قبل النشر +⁩ ⁧إعادة تقييم دورية⁩ ⁧موثّق ومن طرف ثالث⁩ ⁧في القطاعات المنظّمة، أصبحت جاهزية الامتثال شرطًا للبيع — لا مجرد متطلب قانوني⁩

طبقة السياسات قد وصلت

طوال معظم تاريخ الذكاء الاصطناعي (AI)، كانت الحوكمة (Governance) طوعية: سياسات الشركات، والالتزامات الطوعية، وأفضل ممارسات القطاع. انتهت تلك الحقبة، لكن بشكل متفاوت. فقانون الذكاء الاصطناعي الأوروبي (EU AI Act) نافذ، وتسري بالفعل المحظورات والتزامات الذكاء الاصطناعي العام الأغراض (GPAI)؛ وقد أجّلت حزمة Digital Omnibus لعام 2026 الالتزامات الرئيسية للأنظمة عالية المخاطر إلى ديسمبر 2027 (وأغسطس 2028 للذكاء الاصطناعي المدمج في المنتجات الخاضعة للتنظيم). أما الولايات المتحدة فاتجهت في الاتجاه المعاكس على المستوى الاتحادي، إذ أُلغي الأمر التنفيذي بشأن الذكاء الاصطناعي الصادر عام 2023 في يناير 2025، تاركًا خليطًا متزايدًا من قوانين الولايات لسد الفراغ. ولدى الصين والمملكة المتحدة وكندا والبرازيل مسارات تشريعية أو تنظيمية نشطة. وكل من يبني الذكاء الاصطناعي أو ينشره تجاريًا اليوم يعمل ضمن بيئة تنظيمية، سواء أدرك ذلك أم لا.

  • قانون الذكاء الاصطناعي الأوروبي: تصنيف قائم على المخاطر؛ دخل حيز التنفيذ في أغسطس 2024، وتسري التزامات نماذج GPAI منذ أغسطس 2025، ونقلت حزمة Digital Omnibus لعام 2026 التزامات الأنظمة عالية المخاطر إلى ديسمبر 2027 (وأغسطس 2028 للذكاء الاصطناعي في المنتجات الخاضعة للتنظيم)؛ وهو أول قانون شامل للذكاء الاصطناعي في العالم
  • الولايات المتحدة: أُلغي الأمر التنفيذي بشأن الذكاء الاصطناعي الصادر عام 2023 في يناير 2025؛ واتخذت السياسة الاتحادية منعطفًا نحو تخفيف القيود، بينما يسد خليط متزايد من قوانين الولايات الفراغ (استبدلت كولورادو أول قانون لها للذكاء الاصطناعي بقانون أضيق يركّز على الشفافية ويسري في يناير 2027)، ويبقى إطار NIST AI RMF المرجع الطوعي الأساسي
  • المملكة المتحدة: نهج قائم على المبادئ وداعم للابتكار؛ إذ تطبّق الجهات التنظيمية القطاعية صلاحياتها القائمة على الذكاء الاصطناعي بدلًا من قانون أفقي شامل
  • الصين: لوائح الذكاء الاصطناعي التوليدي (2023) التي تشترط تقييمات أمنية وضوابط على المحتوى قبل النشر
  • القاسم المشترك: كل ولاية قضائية كبرى تنتقل من الطوعي إلى الملزم؛ والسؤال هو متى، لا هل

قانون الذكاء الاصطناعي الأوروبي: ماذا يتطلب ومن يشمل

ينشئ قانون الذكاء الاصطناعي الأوروبي نظام تصنيف قائمًا على المخاطر لأنظمة الذكاء الاصطناعي. والفئة التي يقع فيها منتجك تحدد التزاماتك في الامتثال. وفهم الفئات، لا مجرد معرفة أن القانون موجود، هو ما يتيح لك تقييم مدى تعرّضك بدقة.

  • مخاطر غير مقبولة (محظورة): التقييم الاجتماعي من قبل الحكومات، والمراقبة البيومترية الآنية في الأماكن العامة، والذكاء الاصطناعي الذي يستغل نقاط الضعف النفسية
  • عالية المخاطر: الذكاء الاصطناعي المستخدم في قرارات التوظيف، والتصنيف الائتماني، والوصول إلى الخدمات الأساسية، وإنفاذ القانون، والأجهزة الطبية، والتعليم؛ ويتطلب تقييم مطابقة، وإشرافًا بشريًا (Human oversight)، وسجل تدقيق، وتوثيقًا
  • مخاطر محدودة: روبوتات المحادثة وأنظمة التوصية؛ مع التزامات بالشفافية (الإفصاح بأنه ذكاء اصطناعي)
  • مخاطر ضئيلة: مرشحات الرسائل المزعجة والألعاب المدعومة بالذكاء الاصطناعي؛ دون التزامات محددة تتجاوز القانون العام
  • الجدول الزمني: دخل القانون حيز التنفيذ في أغسطس 2024؛ والممارسات المحظورة ممنوعة منذ فبراير 2025؛ وسرت التزامات GPAI في أغسطس 2025؛ ونقلت حزمة Digital Omnibus لعام 2026 قواعد الأنظمة عالية المخاطر إلى ديسمبر 2027 (وأغسطس 2028 للمنتجات الخاضعة للتنظيم)؛ والغرامات تصل إلى 35 مليون يورو أو 7% من الإيرادات العالمية

الامتثال كميزة تنافسية

رد الفعل الغريزي تجاه تنظيم الذكاء الاصطناعي هو التعامل معه كتكلفة. لكن المؤسسات المتمرّسة تتعامل معه كعامل تمييز. فالعملاء في القطاعات الخاضعة للتنظيم، كالخدمات المالية والرعاية الصحية والجهات الحكومية، يشترطون بشكل متزايد أن يثبت مزوّدو الذكاء الاصطناعي امتثالهم قبل توقيع العقود. والجاهزية للامتثال شرط تأهيل في المبيعات، لا مجرد متطلب قانوني.

  • إشارة السوق: يطلب مشترو الخدمات المالية بشكل متزايد إثبات الجاهزية لقانون الذكاء الاصطناعي الأوروبي في طلبات تقديم العروض (RFPs)، وذلك قبل المواعيد النهائية
  • معنى الجاهزية للامتثال: بطاقات النماذج (Model cards)، وسجلات التدقيق، وآليات الإشراف البشري، وتقييمات فئات المخاطر، وإجراءات الاستجابة للحوادث
  • أطر حوكمة الذكاء الاصطناعي: NIST AI RMF (الولايات المتحدة)، وISO/IEC 42001، وقانون الذكاء الاصطناعي الأوروبي تشكّل معًا خط الأساس للامتثال الذي يستند إليه المشترون الجادّون
  • تمييز المزوّد: المزوّدون القادرون على إثبات إشراف بشري موثّق، وقابلية التفسير (Explainability)، وتدقيق التحيّز (Bias)، يفوزون في مبيعات القطاعات الخاضعة للتنظيم
  • فجوة الحوكمة: معظم المؤسسات المشمولة لم تبدأ تقييم امتثالها بعد؛ وميزة المبادرة الأولى حقيقية

كيف ينطبق هذا عليّ؟

مستخدم عام

ينتقل تنظيم الذكاء الاصطناعي من الاختياري إلى الإلزامي في معظم الأسواق الكبرى. وما يعنيه ذلك للمستخدمين العاديين: أدوات الذكاء الاصطناعي التي تستخدمها ستحتاج بشكل متزايد إلى الإفصاح بأنها ذكاء اصطناعي، وتفسير قراراتها في السياقات الخاضعة للتنظيم، والحفاظ على الإشراف البشري. وهذه حمايات لك.

  • الذكاء الاصطناعي الذي يتخذ قرارات بشأن طلب توظيفك أو تصنيفك الائتماني أو فرز حالتك الصحية يخضع بشكل متزايد لتنظيم يشترط مراجعة بشرية وحقًا في الاعتراض
  • التزام «الإفصاح بأنه ذكاء اصطناعي» (فئة المخاطر المحدودة) يعني أن لك الحق في أن تعرف متى تتعامل مع نظام ذكاء اصطناعي في السياقات التجارية
  • التنظيم يخلق المساءلة: إذا ألحق بك نظام ذكاء اصطناعي ضررًا في فئة خاضعة للتنظيم، فهناك الآن إطار للإنصاف؛ وهذا أمر جديد
متخصص أمن

تنظيم الذكاء الاصطناعي عامل ضاغط في القطاعات الخاضعة للتنظيم، وموضوع مخاطر لم تبدأ فيه مؤسسات كثيرة بعد. تعامل معه استباقيًا، لا كرد فعل حين يسأل مدقق أو جهة تنظيمية.

  • اسأل مؤسستك: «هل نحن مشمولون بقانون الذكاء الاصطناعي الأوروبي؟»؛ معظم المؤسسات لم تجب عن هذا السؤال، والإجابة عنه مبكرًا طريقة واضحة لتقديم المشورة للقيادة
  • الذكاء الاصطناعي الأمني في إنفاذ القانون وكشف الاحتيال والتحقق من الهوية يقع على الأرجح في فئة المخاطر العالية؛ نبّه القيادة إلى ذلك كأولوية امتثال
  • متطلبات سجل التدقيق والإشراف البشري تقابلها ميزات في المنصات يمكنك التحقق منها: سجلات غير قابلة للتعديل لكل إجراء يقوم به الوكيل، وبوابة تفرض قواعد الموافقة قبل الخطوات ذات العواقب
مطوّر

البناء من أجل الامتثال منذ البداية أرخص من التعديل اللاحق. وإذا كنت تبني ذكاءً اصطناعيًا في قطاع خاضع للتنظيم، فيجب أن تكون متطلبات الامتثال جزءًا من مواصفاتك التقنية منذ اليوم الأول.

  • سجل التدقيق: سجّل كل قرار للذكاء الاصطناعي مع المدخلات والمخرجات وإصدار النموذج والطابع الزمني؛ فهذا مطلوب للامتثال لقانون الذكاء الاصطناعي الأوروبي في الأنظمة عالية المخاطر
  • التجاوز البشري: ابنِ قدرة المراجعة والتجاوز البشري في بنية النظام قبل الإطلاق، لا كتعديل لاحق
  • التوثيق: بطاقات النماذج، ومصدر البيانات، والقيود المعروفة، ونتائج التقييم أصبحت الآن متطلبات تنظيمية للذكاء الاصطناعي عالي المخاطر؛ حافظ عليها كمستندات حيّة
مستشار ذكاء اصطناعي

الامتثال لتنظيم الذكاء الاصطناعي بند عمل في العام الحالي لمعظم العملاء من المؤسسات، لا هاجس مستقبلي. اجعله عنصرًا ثابتًا في كل مشروع لاستراتيجية الذكاء الاصطناعي.

  • الخطوة الأولى مع كل عميل: حدّد أي حالات استخدام الذكاء الاصطناعي تقع في فئة المخاطر العالية في قانون الذكاء الاصطناعي الأوروبي؛ فهذا يحدد درجة الإلحاح والاستثمار المطلوب
  • تقييم الجاهزية للامتثال: قدرة سجل التدقيق، وآليات الإشراف البشري، وتدقيق التحيّز، وتوثيق النماذج؛ قيّم العميل وفق هذه الركائز الأربع
  • التأطير الاستراتيجي: الذكاء الاصطناعي الجاهز للامتثال معيار تأهيل للتعاقد في القطاعات الخاضعة للتنظيم؛ تعامل معه كمحرّك للإيرادات، لا مجرد مركز تكلفة
✎ أنهيت الوحدة!
اختبر نفسك في «ما القادم في الذكاء الاصطناعي» ←