تأمين أنظمة الذكاء الاصطناعي‹نمذجة التهديدات لأنظمة الذكاء الاصطناعياختبر نفسك8 أسئلة عن «نمذجة التهديدات لأنظمة الذكاء الاصطناعي». اختر إجابة لكل سؤال، ثم اضغط «تحقّق من إجاباتي».1. أي افتراض من افتراضات نمذجة التهديدات التقليدية للتطبيقات تنتهكه ميزة النموذج اللغوي الكبير بشكل أكثر مباشرة؟أ. أن لكل مكوّن مالكًا محددًا يمكن مساءلته عن سلوكهب. أن التعليمات والبيانات قابلة للفصل وأن الواجهة تفرض هذا الفصلج. أن المهاجمين بدافع مالي وسيتوقفون حين تتجاوز التكلفة المكسبد. أن السجلات تُحفظ مدة كافية ليعيد التحقيق بناء ما حدث فعلًا2. أين يجب أن يقع حدّ الثقة بالنسبة إلى النموذج في ميزة قائمة على نموذج لغوي كبير؟أ. عند حافة الـ API، مع معاملة كل ما بعد التحقق من المدخلات على أنه داخلي وموثوقب. حول مجموعة مستندات الاسترجاع، لأنها المكان الوحيد الذي يدخل منه محتوى يتحكم فيه المهاجمج. الحدود لا تنطبق على خدمة نموذج مُدارة، فالمزوّد يؤمّنها نيابةً عنكد. حول النموذج، بحيث تُعامَل مخرجاته على أنها غير موثوقة لدى كل مستهلك3. نموذج تهديدات يذكر النموذج والتعليمات والمستندات والأدوات والذاكرة، لكنه يُغفل المخرجات والبشر. ما النتيجة العملية؟أ. لا شيء، لأن المخرجات والموافِقين لا يتحكم فيهم المهاجم مباشرةب. يبقى التعامل مع المخرجات والتلاعب بالموافِقين دون نمذجة، فيُفوَّت تسريب البيانات عبر العرضج. يصبح سلوك النموذج غير حتمي وبالتالي يستحيل نمذجتهد. يتوقف وسم المصدر عن العمل، لأن الوسوم لا يمكن حملها إلى المستهلك4. لماذا تُرتَّب مكوّنات سطح الهجوم حسب مدى الوصول وقابلية التراجع؟أ. لأن الفعل الذي لا رجعة فيه يكون قد أثّر في طرف ثالث بحلول وقت اكتشافهب. لأن الأفعال القابلة للتراجع أكثر شيوعًا بكثير وبالتالي تحمل مخاطر إجمالية أكبرج. لأنه يطابق طريقة ترتيب معظم الأُطر الأمنية لمخاطر التطبيقات التقليدية أصلًاد. لأن مدى وصول المكوّن يحدّد عدد المستخدمين الذين يخدمهم، وهذا ما يحدّد أولويته5. ما القيمة الرئيسية للممارس من تعداد التقنيات باستخدام MITRE ATLAS؟أ. يشهد بامتثال النظام لمعيار صناعي معترف بهب. يوفّر كود إثبات مفهوم جاهزًا لكل تقنية في المصفوفةج. يدفع التغطية إلى ما بعد العيّنة المتحيّزة التي ستنتجها من الذاكرةد. يغني عن مخطط تدفق البيانات، لأن المصفوفة تسمّي المسارات6. فريق يسِم تقنية من ATLAS بأنها مُعالَجة لأن ضابطًا ذا صلة عامة موجود في مكان آخر من المنصة. ما الخطأ في ذلك؟أ. لا خطأ، بشرط توثيق الضابط ذي الصلة مقابل التقنيةب. تقنيات ATLAS لا يمكن معالجتها إلا على مستوى التكتيك، لا كل واحدة على حدةج. الضابط ذو الصلة ليس ضابطًا متحقَّقًا منه لتلك التقنية، فتسجّل المصفوفة طمأنة لا تغطيةد. كان يجب تنفيذ تمرين للفريق الأحمر قبل وسم أي شيء بأنه مُعالَج7. ما الذي يجب أن يتضمّنه بند المخاطرة المقبولة ليبقى قابلًا للمراجعة لاحقًا؟أ. السيناريو، والسبب، واسم من قَبِل مع التاريخ، وما الذي سيعيد فتح القرارب. معرّف CVE ودرجة CVSS، حتى يمكن تتبّع البند في سجلّ الثغراتج. شهادات الأمن الخاصة بمورّد النموذج، التي تضمن قرار القبولد. عدد محاولات الفريق الأحمر ضد السيناريو وعدد ما نجح منها8. بالنسبة لحقن التعليمات تحديدًا، ما الطريقة الصادقة لتمثيله في نموذج التهديدات؟أ. على أنه ممنوع، بمجرد نشر مرشّح مدخلات مضبوط على صيغ الحقن المعروفة عند الحافةب. على أنه خارج النطاق، لأنه يخص مزوّد النموذج لا فريق التطبيقج. على أنه محلول بالانتقال إلى عائلة نماذج أحدث مدرّبة على تسلسل هرمي أقوى للتعليماتد. على أنه متوقّع النجاح، مع احتواء يحدّ مما يصل إليه وإشارات كشف مسمّاةتحقّق من إجاباتيالوحدة التالية: سطح الهجوم بالتفصيل ←