رسم خريطة سطح الهجوم
سبعة مكوّنات، يُعدَّد كل منها على حدة
خريطة سطح الهجوم (Attack surface) المفيدة تقسّم الميزة إلى سبعة مكوّنات وتعامل كلًا منها موضوعًا مستقلًا. النموذج: أي مزوّد وأي عائلة، وهل هو مستضاف أم مشغَّل ذاتيًا، وما الذي يستطيع النشر ملاحظته عنه. وطبقة التعليمات (Prompt): تعليمات النظام والقوالب والأمثلة التوضيحية وأي شيء يُحقن وقت التجميع. ومجموعة مستندات الاسترجاع: ما المفهرس، ومن يستطيع الكتابة فيها، وكيف تدخل المستندات. والأدوات: كل فعل قابل للاستدعاء، ومعاملاته، وبيانات الاعتماد التي خلفه. والذاكرة: أي شيء يستمر عبر الأدوار أو الجلسات أو المستخدمين. والمخرجات: كل مكان يُعرض فيه نص النموذج أو يُخزَّن أو يُمرَّر أو يحلّله نظام آخر. والبشر: المستخدمون والمراجعون والموافِقون الذين تشكّل قراراتهم جزءًا من مسار التنفيذ. الفرق التي لا تنمذج إلا النموذج تفوّت معظم انكشافها الحقيقي، لأن معظمه يقع في المكوّنات الستة الأخرى.
- النموذج، والتعليمات، والمستندات، والأدوات، والذاكرة، والمخرجات، والبشر — عدِّد كلًا منها على حدة
- لكل مكوّن، اسأل من يستطيع الكتابة فيه ومن يستطيع القراءة منه
- النموذج عادةً هو أقل المكوّنات إثارة للاهتمام في الخريطة
- كل ما يستمر أو يُعرض هو مكوّن، حتى لو لم يسمّه أحد ميزة
تتبّع مسار الكتابة
أسرع طريقة للعثور على الانكشاف الخاص بالذكاء الاصطناعي هي أن تتتبّع، لكل مكوّن، كيف يدخل إليه المحتوى. بالنسبة لمجموعة المستندات، يعني ذلك خط الاستيعاب: من يستطيع إضافة مستند، وهل توجد مراجعة، وهل تُزامَن مصادر خارجية آليًا، وهل يستطيع مستخدم رفع ملف يُفهرَس لمستخدمين آخرين. وبالنسبة للذاكرة، يعني أي مسار في الكود يكتب مُدخلًا، وهل يستطيع النموذج طلب كتابة، وهل تسجّل الكتابة مصدر المحتوى. وبالنسبة للأدوات، يعني من ينشر تعريف الأداة وهل يمكن أن يتغيّر هذا التعريف دون عملية نشر. وبالنسبة للتعليمات، يعني هل يُجمَّع أي جزء من تعليمات النظام (System prompt) من البيانات — اسم عميل، أو عنوان تذكرة، أو حقل إعدادات — لأن ذلك مسار كتابة إلى طبقة التعليمات. مسارات الكتابة التي لا تستطيع تسميتها هي مسارات كتابة لا تستطيع التحكم بها.
- لكل مكوّن، اذكر مسار الكود الفعلي الذي يكتب فيه
- المزامنة الآلية من مصادر خارجية هي مسار كتابة بلا مراجعة
- تعليمات النظام المجمّعة من البيانات عبر القوالب تمنح المهاجمين موطئ قدم في طبقة التعليمات
- تعريف الأداة الذي يمكن أن يتغيّر دون نشر هو مسار كتابة حيّ إلى السياق
رتّب حسب مدى الوصول وقابلية التراجع
لا يستحق كل عنصر في الخريطة الاهتمام نفسه، والترتيب الذي يتنبّأ بالحوادث الحقيقية يعتمد على محورين. مدى الوصول: ما الذي يستطيع مكوّن ما أن يمسّه — كم من البيانات، وبيانات مَن، وكم نظامًا لاحقًا. وقابلية التراجع: هل يمكن التراجع عن فعل نُفّذ من خلاله، وبأي سرعة. أداة بحث للقراءة فقط في توثيق عام لها وصول واسع وقابلية تراجع كاملة، ونادرًا ما تنتج نتيجة خطيرة. أما الأداة التي ترسل رسالة، أو تحوّل أموالًا، أو تحذف سجلًا، أو تدمج كودًا، أو تغيّر صلاحية، فهي لا رجعة فيها بالمعنى الوحيد المهم — فالأثر وصل إلى طرف ثالث قبل أن تلاحظ. رتّب الخريطة حسب مدى الوصول مضروبًا في عدم قابلية التراجع، وخصّص الجلسة لرأس تلك القائمة. وهذا الترتيب، حين يُكتب، هو ما ستستخدمه لاحقًا لتقرّر أين توضع بوابات الموافقة وضوابط الاتصال الخارجي (Egress) فعلًا.
- محوران يتنبّآن بالحوادث: مدى الوصول إلى البيانات وقابلية التراجع عن الفعل
- لا رجعة فيه تعني أن طرفًا ثالثًا رأى الأثر أو تصرّف بناءً عليه بالفعل
- الاتساع للقراءة فقط رخيص الدفاع؛ أما صلاحية الكتابة الضيقة فنادرًا ما تكون كذلك
- يصبح الترتيب خطة توزيع للبوابات والبيئات المعزولة وقواعد الاتصال الخارجي
حافظ على الخريطة محدّثة
تتقادم خرائط سطح الهجوم لميزات الذكاء الاصطناعي أسرع منها للخدمات التقليدية، لأن السطح يتوسّع عبر الإعدادات لا الكود. يُضاف موصّل جديد، أو تكتسب مجموعة المستندات مصدرًا يُزامَن آليًا، أو يُمنح وكيل نطاقًا أوسع لتسهيل عرض توضيحي، أو تكبر قائمة الأدوات لأن خادم MCP سُجّل. لا يبدو أي من هذه تغييرًا معماريًا في المراجعة، وكلها تغيّر النموذج تغييرًا جوهريًا. ممارستان تُبقيان الخريطة صادقة. الأولى: اجعل جرد الأدوات والصلاحيات مولَّدًا لا مكتوبًا: استخرجه من الإعدادات وقت البناء حتى يظهر الانحراف في الفروقات (Diff). الثانية: اربط الخريطة بعملية التغيير — إضافة أداة أو مصدر بيانات أو نطاق صلاحية تتطلب تعديلًا على الخريطة ومراجعة قصيرة مقابل قائمة التقنيات الحالية. الهدف ليس الشكليات، بل ألّا يوسّع أحد نطاق الضرر بصمت.
- سطح الذكاء الاصطناعي ينمو عبر الإعدادات، وهو ما تفوّته المراجعة التقليدية غالبًا
- ولّد جرد الأدوات والصلاحيات من الإعدادات حتى يظهر الانحراف في الفروقات
- اشترط تحديث الخريطة عند إضافة أدوات أو مصادر أو نطاقات جديدة
- توسيع النطاق المؤقت لأجل عرض توضيحي هو أكثر التغييرات الدائمة شيوعًا
جرّبها بنفسك
قراءة قائمة بالمكوّنات ليست كإنتاج قائمة لنظام تملكه. يستغرق هذا نحو ساعة لميزة واحدة، والقيمة تكمن في القنوات التي يتبيّن أنها ليست في مستند التصميم.
اختر ميزة ذكاء اصطناعي واحدة تشغّلها مؤسستك أو تصمّمها — مالك واحد، ومجموعة بيانات واحدة، وقائمة أدوات واحدة. انطلاقًا من الإعدادات والكود لا من مستندات التصميم، اذكر كل قناة يصل عبرها محتوى إلى النموذج: المستندات المسترجعة وبياناتها الوصفية، والصفحات التي تُجلب، ونصوص التذاكر والبريد، وأسماء الملفات وخصائص المستندات، وردود الأدوات بما فيها نصوص الأخطاء، ومُدخلات الذاكرة، وأي شيء يُدرج عبر القوالب في تعليمات النظام. صنّف كل قناة موثوقة أو غير موثوقة، وسمِّ مسار الكود الفعلي الذي يكتب فيها، ودوّن هل يغطيها أي اختبار. القسم 2 من «لوحة نمذجة التهديدات لميزات الذكاء الاصطناعي» على /templates/threat-model-canvas.md هو هذا الجدول بالضبط، فابدأ منه بدل بناء هيكل من الصفر. إن لم تكن مؤسستك تطلق أي ميزة ذكاء اصطناعي بعد، فابنِ الجرد نفسه لميزة ذكاء اصطناعي في منتج تستخدمه، من توثيقه المنشور، وسجّل كل قناة لا تستطيع التأكد منها على أنها غير معروفة لا موثوقة. هذه مراجعة للإعدادات والتوثيق فقط — لا تفحص أي نظام لست مخوّلًا كتابيًا باختباره.
الميزة: المالك: بُني الجرد من: [الإعدادات والكود، بتاريخ DATE] القناة | موثوقة أم غير موثوقة | مسار الكود الذي يكتب فيها | هل يغطيها اختبار؟ 1. 2. 3. قنوات وُجدت ولم تكن في مستند التصميم: قنوات لم يستطع أحد تسمية مسار كتابة لها: قنوات غير موثوقة لا يغطيها أي اختبار حاليًا:
- يحتوي جردك على قناة واحدة على الأقل لم تكن في مستند تصميم الميزة
- لكل قناة مسار كتابة مسمّى، أو سُجّلت على أنها قناة لم يستطع أحد تسمية مسارها
- تستطيع الإشارة إلى قناة غير موثوقة واحدة على الأقل لا يغطيها أي اختبار حالي