مركز تعلّم الذكاء الاصطناعيEnglish
ترجمة عربية جديدة ✦ نراجعها باستمرار لتحسينها.

الصلاحيات المفرطة ومسارات تسريب البيانات

⁧قدرات تفوق حاجة المهمة — بثلاث طرق مختلفة⁩⁧لكل بُعد إصلاحه الخاص؛ وطلب الموافقة لا يقلّص حساب الخدمة الذي خلفه⁩⁧وظائف مفرطة⁩⁧مجموعة الأدوات تتضمن إجراءات⁩⁧لا تحتاجها المهمة — خادم كشف⁩⁧عائلة أدوات؛ فسُجّلت كلها⁩⁧الإصلاح: قلّص قائمة الأدوات⁩⁧أذونات مفرطة⁩⁧بيانات الاعتماد تحمل نطاقًا أوسع⁩⁧مما تحتاجه الأداة — حساب خدمة⁩⁧موروث، أُعيد استخدامه⁩⁧الإصلاح: حدّد نطاق بيانات الاعتماد⁩⁧استقلالية مفرطة⁩⁧الإجراءات المؤثّرة تُنفَّذ دون⁩⁧أيّ تحقق سوى قرار⁩⁧النموذج نفسه⁩⁧الإصلاح: بوابة موافقة للإجراء⁩⁧دقّق فيما مُنح فعلًا، لا فيما كان مقصودًا⁩⁧اسحب قائمة الأدوات الفعلية · احسب الصلاحيات الفعّالة، بما فيها الموروثة والمستمدة من المجموعات⁩⁧صلاحيات من تُطبَّق في كل استدعاء؟ الاسترجاع بحساب الخدمة هو مثال «النائب المرتبك» الكلاسيكي⁩⁧جرد تسريب البيانات — كل مسار يمكن أن تخرج منه البيانات⁩⁧وكيل يحمل⁩⁧سياقًا خاصًا⁩⁧اتصالات شبكة مباشرة من الأدوات أو الكود⁩⁧مخرجات معروضة تجلب موارد بعيدة⁩⁧كتابة في المستندات والمستودعات والتذاكر والقنوات⁩⁧رسائل — بريد، محادثة، إشعارات⁩⁧معاملات استعلام إلى خدمات طرف ثالث⁩⁧سجلات وقياسات تخرج من الحدّ⁩⁧رسائل خطأ تُعاد إلى المستدعين⁩⁧الرد الظاهر⁩⁧قد يبدو طبيعيًا⁩⁧أثبت الإغلاق بعلامة اختبار، لا بالحجة⁩⁧ازرع علامة غير ضارة في السياق الخاص وجرّب كل مسار — ادعاءات الإغلاق تتآكل مع إضافة الميزات⁩
⁧الوظائف والصلاحيات والاستقلالية تُعالَج بالتقليص وتحديد النطاق وبوابة الموافقة على التوالي — ثم عدّد كل مسار خروج وأثبت إغلاقه.⁩

ثلاثة أبعاد للصلاحيات المفرطة

الصلاحيات المفرطة (Excessive agency) هي الحالة البنيوية التي يملك فيها الوكيل قدرات تتجاوز ما تتطلّبه مهمته، وهي تنقسم إلى ثلاثة أبعاد يُعالج كل منها بطريقة مختلفة. وظائف مفرطة: مجموعة الأدوات تتضمن أفعالًا لا تحتاجها المهمة أبدًا، غالبًا لأن خادمًا يعرض عائلة من العمليات فسُجّلت كلها. أذونات مفرطة: بيانات الاعتماد خلف الأدوات تحمل نطاقًا أوسع مما تحتاجه الأداة، عادةً لأن حساب خدمة تراكمت عليه المنح مع الوقت ويُعاد استخدامه الآن. استقلالية مفرطة: بيئة التشغيل تنفّذ أفعالًا ذات عواقب دون تحقّق مستقل، فيكون قرار النموذج هو الضابط الأخير. لكل بُعد علاج مختلف — قلّص قائمة الأدوات، وضيّق نطاق بيانات الاعتماد، وأضف بوابة موافقة — والخلط بينها ينتج النتيجة الشائعة: فريق يضيف نافذة موافقة ويترك خلفها حساب خدمة واسع الصلاحيات دون أن يمسّه.

  • الوظائف: أدوات مسجّلة لا تحتاجها المهمة أبدًا
  • الأذونات: بيانات اعتماد أوسع مما تتطلّبه الأداة، وعادةً حساب خدمة موروث
  • الاستقلالية: أفعال ذات عواقب تُنفَّذ دون أي تحقّق سوى قرار النموذج
  • لكل منها علاج مختلف؛ وبوابة الموافقة لا تضيّق بيانات الاعتماد
  • في الخرائط المعيارية: تدرج قائمة OWASP لأهم 10 مخاطر في النماذج اللغوية الكبيرة هذا تحت «الصلاحيات المفرطة»؛ وجانب التسريب هو بند الإفصاح عن المعلومات الحساسة

دقّق في الممنوح لا في المقصود

الطريقة الموثوقة لاكتشاف الصلاحيات المفرطة هي أن تتوقف عن قراءة وثائق التصميم وتعدّد ما هو ممنوح فعلًا. اسحب قائمة الأدوات الحيّة التي يتلقّاها الوكيل، بما فيها أي أداة أضافها خادم مسجّل، وقارنها بالمهام التي تؤدّيها الميزة. اسحب الصلاحيات الفعلية لكل بيانات اعتماد مستخدمة — لا اسم الدور، بل مجموعة الصلاحيات المحسوبة بما فيها الموروثة والمستمدّة من المجموعات — وتحقّق من البيانات التي يمكن لكل منها الوصول إليها لو طلب الوكيل ذلك. حدّد صلاحية من تُطبَّق عند كل استدعاء أداة: صلاحية المستخدم الطالب أم صلاحية الوكيل نفسه. هذا الفحص الأخير يكشف حالات «النائب المرتبك» (Confused deputy)، حيث يجيب الوكيل مستخدمًا وصولًا لا يملكه المستخدم السائل، وهي من أكثر النتائج الجسيمة شيوعًا في الأنظمة الحقيقية لأن اختصار استخدام حساب خدمة للاسترجاع مريح ونادرًا ما يُعاد النظر فيه.

  • عدّد قائمة الأدوات الحيّة، بما فيها الأدوات التي أضافتها خوادم مسجّلة
  • احسب الصلاحيات الفعلية، بما فيها الموروثة والمستمدّة من المجموعات
  • حدّد صلاحية من تُطبَّق في كل استدعاء — المستخدم أم الوكيل
  • الاسترجاع بحساب خدمة هو الجذر المعتاد لنتائج الإفصاح عبر المستخدمين

جرد مسارات التسريب

المسارات الخارجية أكثر عددًا مما تتوقعه الفرق، وتعدادها شرط مسبق لاحتوائها. اتصالات الشبكة المباشرة من الأدوات أو الكود المنفَّذ. المحتوى المعروض في عميل يجلب موارد بعيدة — صورًا، ومعاينات روابط، وأوراق أنماط، وإطارات مضمّنة — حيث يمكن تركيب الوجهة من بيانات أنتجها النموذج. الكتابة في وجهات مشتركة: مستندات، ومستودعات، وتذاكر، وقنوات، ومواعيد تقويم، وأي شيء يستطيع طرف آخر قراءته. الرسائل: البريد، والدردشة، والإشعارات، وبياناتها الوصفية. الآثار الجانبية للأدوات، مثل إنشاء سجل تحمل حقوله بيانات إلى الخارج، أو الاستعلام من خدمة طرف ثالث تكون فيها سلسلة الاستعلام نفسها هي الحمولة. السجلات وبيانات القياس التي تغادر حدّ الثقة أو يقرؤها جمهور أوسع. ورسائل الأخطاء المُعادة إلى المستدعي. أي من هذه قادر على حمل بيانات حتى حين يبدو الرد الذي يراه المستخدم طبيعيًا تمامًا.

  • المخرجات المعروضة قناة تسريب كلما جلب العميل موردًا بعيدًا
  • الكتابة في المخازن المشتركة والرسائل تُحسب خارجية، لا داخلية
  • سلاسل الاستعلام إلى خدمات الأطراف الثالثة تحمل بيانات حتى حين لا يُعاد شيء
  • السجلات وبيانات القياس ونصوص الأخطاء تغادر الحدود أكثر مما تدرك الفرق

إغلاق المسارات وإثبات ذلك

الاحتواء يعمل هنا أفضل من الكشف، لأن لكل مسار ضابطًا ملموسًا في البنية التحتية. منع الاتصال الخارجي افتراضيًا مع قائمة سماح ضيّقة يزيل مسارات الشبكة المباشرة ويُفرض خارج التطبيق. تعطيل الجلب التلقائي للموارد البعيدة عند عرض المخرجات، وبناء أي عنوان URL خارجي من قوالب في قائمة سماح بدل نصوص ينتجها النموذج، يغلق مسار العرض. تضييق صلاحيات الكتابة يزيل مسارات الوجهات المشتركة. وتقييد الحقول التي يجوز أن تحتوي نصًا حرًّا في استدعاء الأداة يحدّ من قنوات الآثار الجانبية. ثم أثبت الإغلاق تجريبيًا: ضع علامة مميّزة غير ضارة في السياق الخاص وحاول تمريرها إلى الخارج عبر كل مسار مُعدَّد في اختبار مضبوط، وتحقّق من أن العلامة لا تظهر أبدًا عند الوجهة. أعِد هذا الاختبار بعد كل تغيير. أن تجادل بأن مسارًا مغلق ليس كأن تُثبت أن علامة لا تستطيع عبوره.

  • منع الاتصال الخارجي افتراضيًا هو الضابط الأعلى أثرًا لأنه يقع خارج التطبيق
  • لا تبنِ عناوين URL خارجية من نصوص ينتجها النموذج أبدًا؛ استخدم قوالب في قائمة سماح
  • أثبت الإغلاق بعلامة غير ضارة تُمرَّر عبر كل مسار مُعدَّد
  • أعِد الاختبار بعد كل تغيير — ادعاءات الإغلاق تتآكل مع إضافة المزايا