تنفيذ تمرين مُصرَّح به
التصريح والنطاق أولًا
كل ما في هذه الوحدة ينطبق على أنظمة تملكها أو لديك تصريح كتابي صريح باختبارها. هذا هو القيد الذي يحكم العمل كله، لا إجراء شكلي ملحق به. إن فحص منتج ذكاء اصطناعي تملكه مؤسسة أخرى، أو نموذج مستضاف لديك فيه مجرد حساب، أو وكيل ذكي (Agent) لدى أحد المورّدين دون إذن، هو وصول غير مصرّح به بصرف النظر عن النية، وشروط الخدمة لدى المزوّدين تحظر عادةً الفحص الهجومي بمعزل عن القانون. قبل بدء أي اختبار، اتفقوا كتابيًا على: الأنظمة ونقاط الوصول والبيئات الداخلة في النطاق؛ وما هو مستبعد صراحةً؛ والحسابات وبيانات الاعتماد والبيانات المسموح باستخدامها؛ والإطار الزمني؛ وجهة الاتصال المسمّاة لدى الطرفين؛ وما يحدث إن تسبّب التمرين في انقطاع الخدمة أو كشف اختراقًا قائمًا فعلًا. اختبر على بيئات مهيّأة مثل بيئة التشغيل الفعلي لكنها مملوءة ببيانات اصطناعية، وباستخدام حسابات مخصّصة. لا شيء مما يلي مشروع دون هذه الخطوة.
- فقط الأنظمة التي تملكها أو لديك تصريح كتابي باختبارها — بلا استثناء
- شروط المزوّدين كثيرًا ما تحظر الفحص الهجومي بحدّ ذاتها
- اتفقوا على النطاق والاستثناءات والحسابات والبيانات والإطار الزمني وجهات الاتصال المسمّاة قبل البدء
- تهيئة مماثلة لبيئة التشغيل الفعلي مع بيانات اصطناعية وحسابات مخصّصة
- حدّدوا شرط التوقف ومسار التصعيد إن اكتُشفت حادثة حقيقية في منتصف التمرين
قواعد اشتباك تمنع الضرر
تُترجم قواعد الاشتباك النطاقَ إلى قيود على طريقة عمل الفريق، والبنود الخاصة بالذكاء الاصطناعي تستحق أن تُكتب صراحةً. لا بيانات عملاء حقيقية كمادة للهجوم ولا في الأدلة، لأن النتائج تنتقل أبعد مما يخطّط له أي أحد. لا زرع لمحتوى في أنظمة مشتركة خارج البيئة المتفق عليها، لأن اختبارات الحقن غير المباشر للتعليمات تكتب في مجموعات المستندات، ومستند اختبار منسيّ يصبح عبئًا حيًّا. الأفعال التدميرية فقط على أهداف محدّدة، مع مسار تراجع متفق عليه مسبقًا. حدود لمعدّل الطلبات حتى لا يتحوّل الاختبار إلى هجوم حجب خدمة على تبعية مشتركة. إجراء محدّد للتعامل مع أي شيء حساس يحصل عليه الفريق، يشمل الإبلاغ الفوري والحذف الآمن. وقاعدة تقضي بأن يتوقف الفريق ويصعّد عند اكتشاف دليل على اختراق فعلي بدلًا من الاستمرار في استكشافه، وهذا هو الموقف الذي يسوء في أغلب الأحيان عمليًا.
- بيانات اصطناعية فقط، في التمرين وفي الأدلة
- محتوى الاختبار المزروع يبقى في البيئة المتفق عليها ويُزال بعد ذلك
- اتفقوا على التراجع للأفعال التدميرية وعلى حدود المعدّل للتبعيات المشتركة
- توقّفوا وصعّدوا عند ظهور علامات اختراق حقيقي بدلًا من التحقيق فيه أكثر
منهجية آمنة وأدلة متناسبة
صمّم الاختبارات بحيث يمكن ملاحظة النجاح دون التسبّب في ضرر. النهج المعياري هو هدف غير ضار: رمز علامة مميّز يجب ألا يظهر في المخرجات أبدًا، أو أداة مخصّصة لا تفعل شيئًا يجب ألا تُستدعى أبدًا، أو سجلّ كناري (Canary) يجب ألا يُسترجع أو يُرسل أبدًا. إن استطاع محتوى محقون أن يجعل العلامة تظهر في وجهة ما، فقد أثبتّ وجود المسار دون إحداث ضرر حقيقي، والنتيجة واضحة لا لبس فيها، وقابلة للأتمتة، وآمنة لإدراجها في تقرير. اجعل الأدلة متناسبة: ما يكفي لإعادة الإنتاج في بيئة مضبوطة والتحقق من الإصلاح، ولا أكثر. سجّل الجهد المبذول — عدد المحاولات، ونسبة النجاح، وعدد الأدوار المطلوبة، وهل كانت ضوابط الحماية (Guardrails) المنشورة مفعّلة — لأن مسارًا ينجح مرة واحدة من كل خمسين محاولة هو نتيجة حقيقية لكن أولويتها تختلف عن مسار ينجح فورًا، وإغفال الجهد يجعل الاثنين يبدوان متطابقين.
- أهداف غير ضارة: رموز علامات، وأدوات لا تفعل شيئًا، وسجلات كناري يجب ألا تتحرك أبدًا
- أثبت المسار، ولا تُحدث الضرر
- سجّل المحاولات ونسبة النجاح وعدد الأدوار — الجهد جزء من النتيجة
- اختبر المنظومة المنشورة مع تفعيل ضوابط الحماية، واذكر أي تهيئة اختُبرت
تقارير تُحدث تغييرًا
النتيجة التي لا يصلحها أحد لم تكن تستحق الاكتشاف، والفارق عادةً في طريقة كتابتها. ابدأ بما يحققه المهاجم وضدّ من، بلغة النظام المتأثر لا بلغة التقنية. اذكر الشروط المسبقة بأمانة: ما الوصول الذي كان مطلوبًا، وأي تهيئة كانت قائمة، وكم محاولة، وما نسبة النجاح. قدّم خطوات إعادة إنتاج يستطيع مهندس تنفيذها في بيئة مضبوطة بالتفاصيل اللازمة للتحقق ولا أكثر — آليات وشروط لا حمولة يستطيع أي أحد لصقها في مكان آخر. أوصِ بالإصلاح في الطبقة المعمارية التي تحتوي المشكلة فعلًا، لأن ترقيعًا على مستوى التعليمات (Prompt) لمشكلة بنيوية يعطي مظهر الإغلاق ثم نتيجة مكررة بعد ستة أشهر. وحدّد معايير إعادة الاختبار في التقرير نفسه، حتى يكون الإغلاق قياسًا يستطيع أحد إجراءه لا رأيًا يقدّمه أحد.
- الأثر والأطراف المتأثرة أولًا؛ والتقنية ثانيًا
- اذكر الشروط المسبقة والتهيئة والمحاولات ونسبة النجاح — المصداقية هي رأس المال
- صِف الآليات والشروط، لا حمولات قابلة للتوزيع
- أوصِ بالإصلاح في الطبقة التي تحتوي المشكلة، واكتب معايير إعادة الاختبار في التقرير
كيف ينطبق هذا عليّ؟
الاختبار الهجومي لنظام ذكاء اصطناعي (AI) مشروع فقط بإذن من مالكه. وحين يُنفَّذ بشكل صحيح يكون تمرينًا منظّمًا بنطاق متفق عليه، وعلامات اختبار غير ضارة بدلًا من هجمات حقيقية، وتقرير يقود إلى إصلاحات محدّدة.
- اختبار منتج ذكاء اصطناعي يملكه غيرك دون إذن هو وصول غير مصرّح به، لا بحث
- الاختبار الجيد يثبت وجود المسار دون إحداث الضرر الذي قد يسببه
- النتيجة التي لا يرافقها إصلاح محدّد وموعد لإعادة الاختبار نادرًا ما تغيّر شيئًا
نفّذ هذا ضمن حوكمة الاختبار القائمة لديك: نماذج التصريح نفسها، ومقياس الخطورة نفسه، ونظام التتبع نفسه، وعملية إعادة الاختبار نفسها. ما يتغيّر هو قائمة التقنيات، واشتراط تسجيل التهيئة ومنظومة ضوابط الحماية التي كانت مفعّلة عند ظهور النتيجة.
- أعد استخدام نماذج التصريح وقواعد الاشتباك القائمة بدلًا من اختراع عملية جديدة
- سجّل التهيئة التي اختُبرت — النتائج بلا معنى من دونها
- رتّب حسب قابلية الاستغلال مقابل الأثر، لا حسب مدى إثارة الآلية
- كل نتيجة مقبولة تحصل على اختبار انحدار قبل إغلاق التذكرة
مهمتك أن تجعل التمرين ممكنًا وقابلًا للتكرار: بيئة معزولة تطابق تهيئة بيئة التشغيل الفعلي، وبيانات اصطناعية مُعدّة مسبقًا، وبيانات اعتماد مخصّصة، وتتبّع كامل بما يكفي لإعادة تشغيل أي محاولة وفحص مسارها لاحقًا.
- أنشئ بيئة معزولة بتهيئة مماثلة لبيئة التشغيل الفعلي وبيانات اصطناعية
- تأكد أن سجلات التتبع تلتقط التعليمات المُجمّعة والعناصر المسترجعة ومعاملات الأدوات
- وفّر آلية إعادة ضبط حتى تكون التشغيلات مستقلة وقابلة للتكرار
- لا توجّه الاختبار الهجومي أبدًا إلى مخازن بيانات حقيقية أو حسابات فعلية
كثيرًا ما يطلب العملاء اختبارًا دون نطاق أو تصريح أو نموذج تهديدات (Threat model)، فيخرج تقرير لا يمكن العمل به. أصرّ أولًا على قواعد اشتباك مكتوبة وقائمة مرتّبة بأهداف المهاجم، واتفق على تعريفات الخطورة وعملية إعادة الاختبار قبل بدء أي اختبار.
- التصريح الكتابي والنطاق شرط مسبق، لا أوراق تُرتَّب لاحقًا
- استمدّ الأولويات من نموذج التهديدات لدى العميل حتى تكون التغطية قابلة للدفاع عنها
- اتفق مسبقًا على تعريفات الخطورة ومسار المعالجة وإعادة الاختبار
- سلّم عملية تحويل النتائج إلى اختبارات انحدار، وإلا فلن يبقى شيء بعد رحيلك