سطح الهجوم الخاص بالوكلاء
التهديدات الجديدة
هجمات «النائب المرتبك» (Confused deputy) حيث يستخدم الوكيل الذكي (Agent) صلاحياته لمصلحة المهاجم، وتسميم الأدوات (Tool poisoning) عبر خوادم MCP خبيثة، وتلوّث السياق (Context contamination) باستغلال الذاكرة الدائمة، والتحرّك الجانبي عبر سلاسل أدوات الوكلاء. هذا هو سطح الهجوم (Attack surface) الأحدث والأخطر.
تسميم الأدوات وسلسلة إمداد MCP
خوادم MCP هي سلسلة إمداد البرمجيات الجديدة. الأنماط المعروفة: أوصاف أدوات خبيثة تحمل تعليمات مخفية يقرؤها النموذج ولا يراها الإنسان أبدًا؛ و«سحب البساط» (Rug pull) حيث يحدّث خادم سليم نفسه ليصبح خبيثًا بعد أن ينتشر استخدامه؛ وخوادم تنتحل أسماء خوادم شائعة بأخطاء إملائية متعمّدة (Typosquatting)؛ وخوادم تطلب صلاحيات أوسع بكثير مما تحتاجه وظيفتها. وسبل الحماية تقابل انضباط سلاسل الإمداد التقليدي: سجلّ داخلي بقائمة سماح، وتثبيت الإصدارات، وتدقيق الأوصاف، وسياسات على مستوى البوابة تحدّد ما يحق لكل خادم الوصول إليه. وهذه بالضبط هي المشكلة التي وُجدت سجلات الوكلاء وبوابات الوكلاء لحلّها.
تلوّث الذاكرة والسياق
الذاكرة الدائمة للوكيل تحوّل الحقن لمرة واحدة إلى اختراق مقيم: تعليمة مسمومة مخزّنة في الذاكرة يُعاد تنفيذها في الجلسات اللاحقة، حتى بعد زوال المحتوى الخبيث الأصلي بوقت طويل. عامِل ذاكرة الوكيل كقاعدة بيانات تتلقّى كتابات غير موثوقة — تحقّق مما يُخزَّن، وحدّد نطاق الذاكرة لكل مهمة حيثما أمكن، واجعل صلاحيتها تنتهي سريعًا، واجعل محتوياتها قابلة للفحص. سؤال يستحق الطرح على أي نشر لوكيل ذكي: «هل نستطيع فحص ما يحتفظ به وكلاؤنا في ذاكرتهم الآن — وهل سنعرف إن كُتب فيها شيء خبيث الشهر الماضي؟»
هجمات أخرى على أنظمة الذكاء الاصطناعي
كسر القيود (Jailbreak): تجاوز ضوابط السلامة في النموذج. تسميم النموذج (Model poisoning): إفساد بيانات التدريب لزرع أبواب خلفية. التهرّب (Evasion): صياغة مدخلات تخدع النماذج المنشورة. الاستخراج (Extraction): استجواب النموذج لسرقة قدراته أو بيانات تدريبه. وكلها مصادر قلق للمؤسسات التي تدرّب نماذجها الخاصة أو تنشرها.
الدفاع عن سطح الوكلاء
نمط الدفاع هو مبدأ أقل الصلاحيات (Least privilege) مطبّقًا على فئة جديدة من الفاعلين: وكلاء فرعيون محدودو النطاق لا يملكون إلا الأدوات التي تحتاجها مهمتهم، وبوابات موافقة (Hooks) على الأفعال التي لا رجعة فيها، وهوية تشفيرية للوكيل حتى يُنسب كل فعل إلى صاحبه، وسجلات تدقيق بتتبّع كامل. لا شيء من هذا غريب — إنه انضباط إدارة الهوية والوصول (IAM) ممتدًّا إلى برمجيات مستقلة. والمؤسسات التي تُتقن ذلك تعامل الوكلاء كما تعامل الموظفين: تأهيل عند الانضمام، وصلاحيات محددة، ومراقبة، وإنهاء للوصول عند المغادرة.