تعداد التقنيات باستخدام MITRE ATLAS
ما الذي يقدّمه ATLAS فعلًا
إطار ATLAS قاعدة معرفة بتكتيكات الخصوم وتقنياتهم ضد الأنظمة المدعومة بالذكاء الاصطناعي، مبنية على غرار ATT&CK: التكتيكات أعمدة تمثّل أهداف الخصم، والتقنيات هي الأساليب المستخدمة لتحقيقها، ودراسات الحالة مستقاة من حوادث وأبحاث منشورة. يمتد تسلسل التكتيكات من الاستطلاع وتطوير الموارد، إلى الوصول الأولي، والوصول إلى النموذج، والتنفيذ، والاستمرارية، ورفع الصلاحيات، والتهرّب من الدفاعات، والاستكشاف، والجمع، وتجهيز الهجمات على النموذج، وتسريب البيانات، والأثر. قيمته العملية للممارس ليست التثقيف المفاهيمي — بل التغطية. التعداد من الذاكرة ينتج التقنيات التي تخطر لك مصادفةً، وهي عيّنة متحيّزة يغلب عليها ما قرأته مؤخرًا. أما العمل عمودًا بعد عمود عبر مصفوفة منشورة فيدفعك إلى تجاوز هذا التحيّز وينتج إجابة يمكن الدفاع عنها لسؤال: ما الذي أخذته في الحسبان؟
- التكتيكات أهداف الخصم؛ والتقنيات الأساليب المستخدمة للوصول إليها
- دراسات الحالة تربط التقنيات بحوادث منشورة لا بتخمينات
- القيمة في التغطية وقابلية الدفاع عنها، لا في جِدّة الأفكار
- التعداد من الذاكرة عيّنة متحيّزة — والمصفوفة هي التصحيح
استخدامه مقابل مخططك
لا تقرأ ATLAS كمستند؛ استخدمه محورًا. ابنِ مصفوفة تضع فيها مكوّنات مخططك على جانب والتكتيكات في الأعلى، ثم اسأل لكل خلية: هل توجد تقنية ضمن هذا التكتيك يمكن تنفيذها ضد هذا المكوّن في نظامك؟ معظم الخلايا ستكون فارغة، والخلايا الفارغة مهمة — فهي استثناءاتك المبرّرة. مجموعة مستندات استرجاع تخضع الكتابة فيها للمراجعة قد لا تكون لها تقنية وصول أولي معقولة، وقول ذلك مع السبب موقف أقوى من عدم طرح السؤال أصلًا. الخلايا المملوءة تصبح خطة الاختبار للوحدتين الثانية والرابعة، مرتّبة حسب ترتيب مدى الوصول وقابلية التراجع الذي بنيته بالفعل. سجّل لكل خلية مملوءة التقنية، والمكوّن، والضابط الحالي إن وُجد، والاختبار المزمع. هذا الجدول مُخرَج يستطيع المدقّقون والمهندسون والمختبِرون جميعًا استخدامه، وهذا نادر.
- المكوّنات على الجانب، والتكتيكات في الأعلى، والتقنيات داخل الخلايا
- الخلايا الفارغة نتائج أيضًا — سجّل لماذا لا تنطبق التقنية
- الخلايا المملوءة تصبح خطة الاختبار، مرتّبة حسب مدى الوصول وقابلية التراجع
- جدول واحد يخدم الهندسة والاختبار والضمان — ابنِه مرة واحدة
أُطر متكاملة، ومهام مختلفة
ثلاث مجموعات مرجعية يُستشهد بها معًا وتجيب عن أسئلة مختلفة، فاختر حسب المهمة لا حسب التفضيل. ATLAS يجيب عمّا قد يفعله الخصم، تقنيةً تقنية — استخدمه للتعداد والتغطية. وقائمة OWASP لأهم 10 مخاطر في تطبيقات النماذج اللغوية الكبيرة تجيب عمّا يسوء عادةً في طبقة التطبيق، بلغة تستخدمها فرق التطبيقات أصلًا — استخدمها قائمة تحقق للمراجعة ومفردات مشتركة مع المطوّرين. وإطار NIST لإدارة مخاطر الذكاء الاصطناعي (AI Risk Management Framework) وأُطر الحوكمة (Governance) المشابهة تجيب عن كيفية تنظيم المؤسسة لنفسها لإدارة المخاطر — استخدمها لهيكلة البرنامج والأدوار والتزامات التوثيق، لا لتعداد التقنيات. الخلط بين الطبقات إخفاق شائع: إطار الحوكمة لن يخبرك أبدًا أي اختبار تُجري، ومصفوفة التقنيات لن تخبرك أبدًا من يملك القرار.
- ATLAS لتعداد التقنيات وادعاءات التغطية
- مخاطر OWASP لتطبيقات النماذج اللغوية الكبيرة لقائمة تحقق المراجعة والمفردات المشتركة مع المطوّرين
- أُطر الحوكمة لهيكلة البرنامج والتوثيق، لا لاختيار الاختبارات
- استخدام الطبقة الخطأ للسؤال هو سبب تعثّر تمارين الأُطر
حدود أي قائمة مرجعية
المصفوفة المنشورة حدّ أدنى لا سقف، ومعاملتها على أنها كاملة هي نمط الإخفاق الذي يجب الحذر منه. القوائم المرجعية تتأخر عن الممارسة، لأنها توثّق ما رُصد وكُتب عنه؛ والنظام ذو البنية غير المعتادة سيكون له انكشاف لم يصنّفه أحد. وهي أيضًا صامتة بشأن منطق عملك — لن تخبرك أي مصفوفة أن إجابة معقولة لكنها خاطئة عن الأهلية، في مجالك، أشد ضررًا من تسرّب بيانات. كما أن التغطية مقابل قائمة مرجعية سهلة المبالغة: وسم تقنية بأنها مُعالَجة لوجود ضابط ذي صلة هو الطريق الذي تتحوّل به المصفوفة إلى طمأنة. استخدم القائمة المرجعية لضمان حدّ أدنى، ثم أضف جولة مقصودة غير منظّمة يسأل فيها من يفهمون المجال: ما الأسوأ لهذا النظام بالتحديد؟ القائمة المرجعية تجد المعروف؛ وخبير المجال يجد ما يهمّ.
- القوائم المرجعية توثّق التقنيات المرصودة، ولذلك تتأخر عن البنى الجديدة
- ضرر منطق العمل معرفة بالمجال، ولا يظهر في أي مصفوفة منشورة
- الضابط ذو الصلة ليس ضابطًا متحقَّقًا منه — لا تسمه مُعالَجًا
- اقرن التعداد المنظّم بجولة غير منظّمة يجريها من يعرفون المجال