تأمين أنظمة الذكاء الاصطناعي‹الاختبار والاستجابة والحوكمةاختبر نفسك8 أسئلة عن «الاختبار والاستجابة والحوكمة». اختر إجابة لكل سؤال، ثم اضغط «تحقّق من إجاباتي».1. ما الشرط المسبق غير القابل للتفاوض لأي اختبار هجومي موصوف في هذه الوحدة؟أ. نموذج حَكَم مُتحقَّق منه يقرّر هل نجحت فعلًا كل محاولة مسجّلةب. تصريح كتابي ونطاق متفق عليه لا يشمل إلا الأنظمة المسموح لك باختبارهاج. حدّ أدنى من المحاولات الموثّقة في كل فئة من فئات التقنيات قبل الإبلاغد. الوصول إلى بيانات تدريب مزوّد النموذج ومجموعة بيانات ضبط السلامة لديه2. لماذا يُستخدم رمز علامة غير ضار أو أداة لا تفعل شيئًا هدفًا في اختبار الحقن؟أ. لأنه أسرع من محاولة واقعية، فيتّسع وقت الاختبار نفسه لبدائل أكثرب. لأنه يُغني عن التصريح الكتابي، إذ لا تتم محاولة أي شيء ضارج. لأنه يثبت وجود المسار دون إحداث الضرر، وأتمتته آمنةد. لأنه يضمن امتثال النموذج، فالفعل المطلوب غير ضار3. أي تحقق هو الأكثر ديمومة في اختبار انحدار أمني لوكيل ذكي؟أ. ألا يحتوي سجل التتبع على استدعاء أداة عالية الصلاحية بعد استيعاب محتوى خارجيب. أن يطابق نص الرد عبارة الرفض المتوقعة كلمةً بكلمةج. أن يكتمل التشغيل ضمن ميزانية الرموز والحد الأقصى للخطواتد. أن يعيد النموذج رسالة رفض تذكر السياسة التي طبّقها4. ضُبط دفاع حتى أصبحت مجموعة الاختبار الهجومي الآلي لا تُبلغ عن أي نجاح. ما الذي تحقق على الأرجح؟أ. متانة أمام المهاجمين المتكيّفين عبر سطح الحقن بأكملهب. انتفاء الحاجة إلى اختبار الفريق الأحمر اليدوي على ذلك السطحج. نموذج حَكَم للنجاح مُتحقَّق منه مقابل تصنيفات بشرية على مجموعة المحاولات المسجّلة نفسهاد. دفاع مضبوط على تلك المجموعة، والمهاجم المتكيّف لا يتقيّد بها5. لماذا تفوّت أساليب الكشف التقليدية حادثة الذكاء الاصطناعي في كثير من الأحيان؟أ. لأن حركة API الخاصة بالنموذج مشفّرة من طرف إلى طرف ولا يمكن فحصها أثناء النقلب. لأن أنظمة الذكاء الاصطناعي تولّد بيانات قياس أقل من أن تُطلق قاعدة كشفج. لأن النشاط الخبيث يحدث خارج الشبكة، داخل منظومة الاستدلال الخاصة بمزوّد النموذجد. لأن كل استدعاء مُصادَق عليه ومُصرَّح به وناجح — والضرر كامن في أفعال مسموح بها6. عند تحديد نطاق حادثة سببها محتوى مسترجع مسموم، ما الخطأ المعتاد؟أ. حصر نافذة البحث في وقت ظهور العَرَض بدلًا من وقت زرع المحتوىب. البحث في سجلات التتبع حسب معرّف التشغيل بدلًا من المستند الذي استُرجعج. إدراج تشغيلات لم تُحدث ضررًا مرئيًا، مما يضخّم عدد المتأثرين بلا داعٍد. عزل المستند المصدر قبل التقاط سجل استرجاعه الكامل من سجلات التتبع7. طهّر فريق المستند المصدر المسموم وانتقل إلى عائلة نماذج أحدث. لماذا يُعدّ هذا استئصالًا غير كافٍ؟أ. لأن عائلات النماذج الأحدث أكثر عرضة للحقن من التي تحل محلهاب. لأن تطهير مصدر يتطلب دائمًا إعادة فهرسة مجموعة المستندات بأكملها من الصفرج. لأن النواتج المشتقة قد تبقى، ومسار القدرة الذي سمح بالضرر لا يزال مفتوحًاد. لأن ترقية النموذج تُبطل سجلات التتبع الحالية اللازمة لتأكيد الاستئصال8. أيّ مما يلي مقياس للوضع الأمني لا مقياس للنشاط؟أ. عدد المحاولات الهجومية المنفّذة على المزايا المنشورة خلال الربع الأخيرب. عدد الطلبات التي حجبتها طبقة ضوابط الحماية خلال فترة التقرير الأخيرةج. نسبة مزايا الذكاء الاصطناعي التي لديها نموذج تهديدات حديث وجرد للصلاحياتد. عدد سياسات أمن الذكاء الاصطناعي المنشورة والمعمّمة على فريق الهندسةتحقّق من إجاباتيأنهيت الدورة كلها! العودة إلى صفحة الدورة ←