مركز تعلّم الذكاء الاصطناعيEnglish
ترجمة عربية جديدة ✦ نراجعها باستمرار لتحسينها.
◆ الضوابط

مبدأ أقل الصلاحيات للوكلاء

⁧صمّم مجموعة الأدوات كما تصمّم دورًا وظيفيًا⁩⁧ابدأ من المهمة وتقدّم منها — كل أداة مسجّلة هي صلاحية ممنوحة⁩⁧كيف تتراكم الصلاحيات⁩⁧· كل ما يعرضه الخادم يُسجَّل⁩⁧· هوية خدمة واحدة تُعاد عبر الميزة كلها⁩⁧· بيانات اعتماد دائمة لا تنتهي صلاحيتها⁩⁧· أدوات الاستعلام المفتوح تغري بتوجيه المعاملات⁩⁧· لا أحد مسؤول عن الإزالة — فالقائمة تكبر فقط⁩⁧مصمَّمة كمجموعة صلاحيات⁩⁧· ابدأ من المهمة وتقدّم منها⁩⁧· أدوات مخصّصة ومحدّدة النوع وضيّقة — القراءة منفصلة عن الكتابة⁩⁧· بيانات اعتماد لكل أداة، لعملياتها فقط⁩⁧· بيانات اعتماد قصيرة العمر لكل تشغيل — انتهاء الصلاحية ضابط أمني⁩⁧· مراجعة دورية مسؤولة عن الإزالة⁩⁧احمل صلاحية المستخدم صاحب الطلب في كل قراءة لبيانات المستخدمين⁩⁧هذا الوكيل، نيابةً عن هذا المستخدم — هوية خدمة مشتركة للاسترجاع هي الطريق المعتاد لكشف بيانات مستخدم لآخر⁩⁧تحقّق بمحاولة الوصول بصفتك الوكيل، لا بقراءة تعريف الدور⁩⁧حيث يلتقي المحتوى غير الموثوق بالصلاحيات — افصل حسب الثقة لا حسب السهولة⁩⁧محتوى خارجي⁩⁧غير موثوق⁩⁧القارئ⁩⁧بلا بيانات اعتماد · بلا بيانات خاصة⁩⁧بلا اتصال خارجي — يُخرج حقولًا محدّدة النوع⁩⁧واجهة محدّدة النوع⁩⁧حقول مقيّدة⁩⁧ومُتحقَّق منها فقط⁩⁧المنفّذ صاحب الصلاحيات⁩⁧يحمل بيانات الاعتماد —⁩⁧ولا يرى النص الخام أبدًا⁩⁧ملخّص بنص حر عبر الواجهة يعيد فتح القناة نفسها التي أزالها الفصل⁩⁧الحدّ يصمد لأن الواجهة تفرضه، لا النموذج⁩⁧المنطق نفسه الذي يفصل المحلّل عن المنفّذ في أي تصميم حسّاس أمنيًا⁩
⁧امنح الوكيل دورًا لا إرثًا: أدوات تنطلق من المهمة، وبيانات اعتماد قصيرة العمر لكل أداة، وواجهة محدّدة النوع بين القارئ والمنفّذ.⁩

صمّم مجموعة الأدوات كمجموعة صلاحيات

أكثر الضوابط فاعلية هو أيضًا أقلها بريقًا: امنح الوكيل الذكي (Agent) قدرات أقل. كل أداة تُسجَّل هي صلاحية تُمنح، لذا صمّم مجموعة الأدوات كما تصمّم دورًا وظيفيًا. ابدأ من المهمة وتقدّم منها — ما الذي تحتاج هذه الميزة إلى فعله فعلًا — بدل أن تبدأ من خادم متاح وتسجّل كل ما يعرضه. فضّل الأدوات الضيقة المصمّمة لغرض محدد على الأدوات العامة: أداة تجلب التذاكر المفتوحة لعميل معيّن أكثر أمانًا من أداة تقبل أي استعلام، لأن الأداة الضيقة لا يمكن توجيهها لإرجاع شيء آخر. افصل القراءة عن الكتابة، بحيث تحمل الميزة التي تقرأ في الغالب مجموعة أدوات للقراءة فقط، ولا يوجد مسار للكتابة إلا في الخطوة التي تحتاجه. وراجع القائمة وفق جدول زمني، لأن قوائم الأدوات تكبر باستمرار ما لم يكن أحد مسؤولًا عن إزالة ما لم يعد مستخدمًا.

  • كل أداة مسجّلة صلاحية ممنوحة — صمّم القائمة ولا تراكمها
  • الأدوات المصمّمة لغرض محدد تقاوم توجيه المعاملات الذي تفتح له الأدوات ذات الاستعلام الحر الباب
  • افصل أدوات القراءة عن أدوات الكتابة ولا تتح الكتابة إلا حيث تلزم
  • قوائم الأدوات تكبر ما لم يتولَّ أحد مسؤولية الإزالة؛ جدوِل المراجعة
  • على الخرائط المعيارية: تصنّف قائمة OWASP لأهم 10 مخاطر في النماذج اللغوية الكبيرة هذا الخطر تحت الصلاحيات المفرطة (Excessive agency) — ومبدأ أقل الصلاحيات هو خط الدفاع الأول ضده

بيانات الاعتماد: النطاق والتفويض ومدة الصلاحية

خلف كل أداة بيانات اعتماد، وهناك تختبئ الصلاحيات المفرطة عادةً. ثلاث خصائص مهمة. النطاق: يجب أن تسمح بيانات الاعتماد بعمليات الأداة التي تدعمها فقط لا غير، أي بيانات اعتماد منفصلة لكل أداة بدل هوية خدمة واحدة يُعاد استخدامها عبر ميزة كاملة. التفويض: في كل ما يقرأ بيانات خاصة بمستخدم بعينه، يجب أن يحمل الاستدعاء صلاحية المستخدم صاحب الطلب، كي لا يُرجع النظام بيانات لا يستطيع ذلك المستخدم الوصول إليها بطريقة أخرى — فاستخدام هوية خدمة واسعة للاسترجاع هو الطريق المعتاد إلى كشف بيانات مستخدم لمستخدم آخر، وهو مريح بما يكفي ليظهر في معظم الأنظمة التي لم تخضع للمراجعة. مدة الصلاحية: فضّل بيانات اعتماد قصيرة العمر محدودة بالمهمة تُصدر لكل تشغيل على بيانات الاعتماد الدائمة، بحيث تكون نافذة أي تشغيل مخترق أو مختطف محدودة. انتهاء الصلاحية ضابط أمني، لا إزعاج تشغيلي.

  • بيانات اعتماد واحدة لكل أداة، محصورة في عمليات تلك الأداة
  • احمل صلاحية المستخدم صاحب الطلب في أي وصول إلى بيانات المستخدمين — لا هوية خدمة مشتركة أبدًا
  • أصدر بيانات اعتماد قصيرة العمر لكل تشغيل كي تبقى نافذة الاختطاف محدودة
  • دقّق في الصلاحيات الفعلية المحسوبة، لا في أسماء الأدوار

قسّم حسب الثقة لا حسب الراحة

حين تحتاج ميزة ما فعلًا إلى محتوى غير موثوق وإلى وصول ذي صلاحيات معًا، فالحل الدائم هو تقسيمها إلى مكوّنات بمستويات ثقة مختلفة بدل محاولة الدفاع عن هذا الجمع. مكوّن الاسترجاع أو التصفّح يعمل بلا بيانات اعتماد، وبلا بيانات خاصة، وبلا اتصال خارجي (Egress)، ومهمته تحويل المواد الخارجية إلى حقول منظّمة متحقَّق منها. والمكوّن ذو الصلاحيات يستهلك تلك الحقول ولا يرى النص الخارجي الخام أبدًا. والواجهة بينهما تنقل بيانات مُنمّطة بقيم مقيّدة، وهذا ما يجعل حدّ الثقة (Trust boundary) ذا معنى — فتمرير ملخص نصي حر عبر هذا الحد يعيد فتح القناة نفسها التي وُجد التقسيم لإغلاقها. إنه المنطق نفسه الذي يفصل المحلّل (Parser) عن المنفّذ في أي تصميم حساس أمنيًا، وهو يصمد هنا لأن القيد تفرضه الواجهة لا حسن سلوك النموذج.

  • قارئ بلا صلاحيات، ومنفّذ ذو صلاحيات، وواجهة مُنمّطة بينهما
  • القارئ لا يحصل على بيانات اعتماد ولا بيانات خاصة ولا اتصال خارجي
  • مرّر حقولًا مُنمّطة مقيّدة — فالملخص النصي الحر يعيد فتح القناة
  • الحد يعمل لأن الواجهة تفرضه، لا لأن النموذج يحترمه

كيف ينطبق هذا عليّ؟

مستخدم عام

أكثر أنظمة الذكاء الاصطناعي أمانًا هو عادةً النظام الذي أُعطي أقل ما يمكن ليعمل به. إن كانت الميزة تحتاج إلى القراءة فقط فلا ينبغي أن تستطيع الكتابة؛ وإن كانت تحتاج إلى نوع واحد من السجلات فلا ينبغي أن تصل إلى بقيتها.

  • قدرات أقل تعني ضررًا أقل حين يحدث خطأ ما
  • الوصول الذي تنتهي صلاحيته أكثر أمانًا من وصول قائم بلا نهاية
  • النظام الذي يعمل بصلاحياتك يجب ألا يرى أكثر مما تراه أنت
مهندس أمن

هذه إدارة للهوية والوصول (IAM) مطبّقة على نوع جديد من الجهات الفاعلة، فاستخدم عملية المراجعة التي لديك أصلًا. والملاحظتان اللتان تتكرّران في كل مكان: هويات خدمة مشتركة تُستخدم لاسترجاع بيانات المستخدمين، وبيانات اعتماد دائمة بلا انتهاء صلاحية.

  • عامل كل وكيل كجهة فاعلة لها مالك ونطاق وتاريخ مراجعة
  • افحص التفويض أولًا — فالاسترجاع بهوية خدمة هو أكثر الملاحظات الخطيرة شيوعًا
  • اشترط بيانات اعتماد لكل أداة كي لا تحمل أداة واحدة مخترقة نطاق الميزة كلها
  • تحقّق بمحاولة الوصول بهوية الوكيل، لا بقراءة تعريف الدور
مطوّر

ابنِ الأدوات ضيقة ومُنمّطة من البداية. الأداة التي تأخذ فعلًا من قائمة محددة ومعرّفًا متحقَّقًا منه أصعب بكثير في إساءة الاستخدام من أداة تأخذ نص استعلام، وهذا التضييق لا يكلّف شيئًا يُذكر في مرحلة التصميم.

  • قيّد المعاملات بقوائم قيم محددة (Enums) ومعرّفات متحقَّق منها بدل النص الحر
  • طبّق التفويض داخل تنفيذ الأداة، لا في التعليمات (Prompt) أبدًا
  • اجلب بيانات اعتماد خاصة بكل تشغيل عند بدايته ودعها تنتهي، بدل الاحتفاظ بأسرار طويلة العمر
  • أغلق افتراضيًا (Fail closed) حين يتعذّر تحديد الهوية الفاعلة
مستشار

مبدأ أقل الصلاحيات هو التوصية التي يستطيع العملاء تطبيقها دون موردين جدد، فابدأ بها. والجزء الصعب ليس تقنيًا بل تنظيمي: يجب أن يتولّى أحدٌ مسؤولية جرد الأدوات والصلاحيات بعد مغادرتك.

  • سلّم جردًا للصلاحيات الفعلية المحسوبة — فمعظم العملاء لم يُعدّوا واحدًا قط
  • عيّن مالكًا لقائمة الأدوات ووتيرة للمراجعة قبل انتهاء المهمة الاستشارية
  • اعرض البنية المقسّمة كتصميم مرجعي كي تصمد عند إضافة الميزة التالية
  • قدّم انتهاء الصلاحية والتفويض كإعدادات هندسية افتراضية، لا كعمل إضافي