مركز تعلّم الذكاء الاصطناعيEnglish
ترجمة عربية جديدة ✦ نراجعها باستمرار لتحسينها.

مستويات الاستقلالية

L0⁧الإنسان يوافق على كل خطوة⁩⁧ذكاء اصطناعي يقترح فقط⁩L1⁧يوافق على الخطوات المؤثرة⁩⁧مستقل في الروتين، مقيّد عند التأثير⁩⁧موصى به⁩L2⁧استقلالية مسجّلة قابلة للتراجع⁩⁧يعمل باستقلال، مع مسارات تراجع إلزامية⁩L3⁧استقلالية كاملة⁩⁧نادرة في بيئات الأمن الإنتاجية اليوم⁩
⁧معظم نشرات الأمن في المؤسسات تعمل عند L1 — وهو الخيار الافتراضي الصحيح للإجراءات عالية الأثر⁩

السُّلّم

المستوى 0: يوافق الإنسان على كل خطوة. المستوى 1: يوافق الإنسان على الخطوات ذات العواقب. المستوى 2: يعمل الوكيل الذكي (Agent) باستقلالية مع التسجيل وإمكانية التراجع. المستوى 3: استقلالية كاملة. معظم عمليات النشر الأمنية في المؤسسات تقع في المستوى 1، وهذا هو الخيار الافتراضي الصحيح للإجراءات عالية الأثر مثل الاحتواء أو المعالجة.

أين يبقى الإنسان في الحلقة

التصميم الأمني الوكيلي الجيد صارم بلا هوادة في فرض الإشراف البشري (Human-in-the-loop) على الإجراءات التي لا رجعة فيها: تعطيل الحسابات، وعزل الأجهزة، والحظر، والحذف. أما الإثراء والفرز والتحقيق، وهي قابلة للتراجع، فصار تفويضها آمنًا بشكل متزايد. والصياغة المناسبة لأصحاب المصلحة: الوكيل يتولى العمل الشاق الروتيني للمحلل، والبشر يحتفظون بالقرارات ذات العواقب.

مسار التدرّج

تبدأ معظم عمليات النشر في المستوى 0 أو 1 بغض النظر عن قدرات النظام، لأن الثقة مسألة تنظيمية لا تقنية. والحوار الصحيح عند النشر هو: ما الإجراءات التي ترتاح لتفويضها اليوم، وما الذي يجب أن يتحقق (سجل أداء، وتدقيق، وقدرة على التراجع) لتوسيع الاستقلالية مع الوقت؟ وتقديم الاستقلالية كمؤشر قابل للضبط بدلًا من ميزة ثابتة في المنتج يختصر دورة بناء الثقة كثيرًا.

اختيار المستوى 1 دون اعتذار

المستوى 1 ليس وكيلًا منقوص القدرات، بل هو الخيار الهندسي الصحيح للإجراءات التي لا رجعة فيها. والحجة لصالحه: «الوكيل يتولى كل شيء حتى لحظة اتخاذ القرار ذي العواقب. يحصل المحلل على حالة مجهّزة ومبحوثة مسبقًا، جاهزة لنقرة موافقة واحدة، بدلًا من تحقيق يستغرق 30 دقيقة. تحصل على توفير الوقت دون إخراج الحكم البشري من الحلقة». هذه الصياغة تلقى صدى لدى مديري أمن المعلومات (CISO) القلقين من الأتمتة الخارجة عن السيطرة، ولدى المحللين القلقين من فقدان وظائفهم.

كيف ينطبق هذا عليّ؟

مستخدم عام

المزيد من الاستقلالية ليس أفضل تلقائيًا. المستوى المناسب من استقلالية الذكاء الاصطناعي يعتمد كليًا على إمكانية التراجع عن الإجراءات التي يتخذها وعلى عواقبها.

  • في المهام القابلة للتراجع (الصياغة والتلخيص)، الاستقلالية العالية منطقية، فكلفة الخطأ منخفضة
  • في الإجراءات التي لا رجعة فيها (الحذف والحظر والعزل)، موافقة الإنسان ميزة لا قيد
  • اسأل المورّدين: في أي مستوى يعمل وكلاؤكم، وما الإجراءات التي تتطلب موافقة بشرية؟
متخصص أمن

المستوى 1 هو الخيار الافتراضي الذي يمكن الدفاع عنه في عمليات النشر الأمنية بالمؤسسات: فهو يعالج خطر الأتمتة الخارجة عن السيطرة وقلق المحللين من الاستبدال في تصميم واحد.

  • تعامل مع الاستقلالية كمؤشر قابل للضبط: وسّعها بناءً على سجل الأداء وأدلة التدقيق، لا كمفتاح تشغيل لميزة
  • قرّروا داخليًا: ما الإجراءات التي نرتاح لتفويضها اليوم؟ هذه القائمة تحدد المتطلبات أفضل من أي عرض توضيحي
  • للقيادة وللمحللين مخاوف مختلفة من الاستقلالية، فعالج الاثنتين بتصميم المستوى 1 نفسه ومن زاويتين مختلفتين
مطوّر

مستوى الاستقلالية مُعامل هندسي، لا موقف تسويقي للمنتج. ابنِه كسياسة قابلة للضبط لكل إجراء على حدة، لا كإعداد عام.

  • طبّق مستوى الاستقلالية كسياسة لكل إجراء، فالإجراءات المختلفة تستحق مستويات مختلفة
  • الإجراءات التي لا رجعة فيها تتطلب بوابات إشراف بشري صريحة في الكود، لا في التوثيق فقط
  • سجّل كل إجراء مستقل مع السياق الذي أطلقه، فقابلية التدقيق هي ما يسمح بتوسيع الاستقلالية مع الوقت
مستشار ذكاء اصطناعي

الثقة تنظيمية لا تقنية، وهي تُبنى عبر سجل أداء مُثبت في مستويات استقلالية أدنى. انصح العملاء بالبدء في المستوى 1 حتى حين تدعم التقنية أكثر من ذلك.

  • ضع خطة لتوسيع الاستقلالية: ما سجل الأداء وأدلة التدقيق التي تبرّر الانتقال من المستوى 1 إلى المستوى 2؟
  • إمكانية التراجع معيار شراء، فاشترطها كخاصية تعاقدية لإجراءات الوكلاء عالية العواقب
  • ارسم قائمة التفويض المقبولة لدى العميل قبل اختيار مستويات الاستقلالية، ولا تبدأ بالتقنية