تأمين أنظمة الذكاء الاصطناعي‹سطح الهجوم بالتفصيلاختبر نفسك9 أسئلة عن «سطح الهجوم بالتفصيل». اختر إجابة لكل سؤال، ثم اضغط «تحقّق من إجاباتي».1. لماذا لا يستطيع النموذج اللغوي الفصل بين التعليمات والبيانات بشكل موثوق؟أ. لأن معظم المزوّدين يعطّلون خاصية الفصل افتراضيًا لأسباب تتعلق بالتكلفةب. لأن كل شيء يصل سلسلةَ رموز واحدة، والدور يُستنتج ولا يُحلَّلج. لأن تعليمات النظام دائمًا أقصر من مدخلات المستخدم التي يجب أن تحكمهاد. لأن التقسيم إلى رموز يتجاهل علامات الترقيم التي كانت ستحدّد نهاية المقطع المقتبس2. ما أقوى سبب يمنع فلترة المدخلات من أن تكون حدًّا للثقة في مواجهة حقن التعليمات؟أ. الفلاتر تضيف زمن انتظار غير مقبول في مسار الطلبات التفاعليةب. معظم الفلاتر احتكارية، فلا يمكن تدقيق تغطيتها أو التفكير فيهاج. فضاء طرق التعبير عن التعليمات غير محدود، والمهاجمون يتكيّفون مع ما يمرّد. الفلاتر لا تعمل إلا على النص، بينما يصل معظم الحقن الآن عبر الصور والصوت3. وصف الأداة المسموم يستغل بشكل مباشر أي حقيقة؟أ. أوصاف الأدوات تُنفِّذ كودًا في بيئة التشغيل عند تسجيل الأداةب. أسماء الأدوات وأوصافها وتوثيق معاملاتها تدخل سياق النموذج نصًا مقروءًاج. الأوصاف تُخزَّن مؤقتًا لدى العميل إلى أجل غير مسمّى ولا يُعاد التحقق منها مقابل الخادمد. البروتوكول ينقل أوصاف الأدوات نصًا صريحًا، فيمكن إعادة كتابتها أثناء النقل4. أي خاصية تجعل التقاط الحقن غير المباشر صعبًا بكشف الشذوذ على مستوى الجلسة؟أ. لا يعمل إلا ضد النماذج متعددة الوسائط، التي لا يفحص الكاشف قناة الصور فيهاب. يتطلّب بيانات اعتماد صالحة، فتبدو الجلسة استخدامًا مصرّحًا به عاديًاج. ينتج دائمًا مدخلات مشوّهة، تتجاهلها كاشفات الشذوذ باعتبارها ضجيجًا عاديًاد. الزرع والتفعيل منفصلان زمنيًا، فلا يتزامن أي نشاط للمهاجم مع الفعل5. مكوّن يجتاز اختبار الثلاثي القاتل — ليس لديه قناة خارجية. ما المخاطر التي تبقى دون معالجة؟أ. الأفعال التدميرية والمالية، والضرر الناتج عن مخرجات خاطئة واثقةب. لا شيء — إزالة ضلع واحد من الثلاثي تحلّ مخاطر المكوّن بالكاملج. لا يبقى إلا مخاوف زمن الاستجابة والتكلفة بعد زوال القناة الخارجيةد. يصبح المكوّن أكثر عرضة للحقن المباشر بعد أن فقد مسار مراقبة6. لماذا يُعدّ تلوّث الذاكرة أخطر من حقن محصور في الجلسة؟أ. الكتابة في الذاكرة أغلى بكثير في التخزين من سياق الجلسةب. يمنع الوكيل من استدعاء الأدوات حتى يُزال المدخل الملوّثج. يستمر بعد زوال المحتوى العدائي ويعود إلى السياق بمظهر موثوقد. لا يؤثر إلا في الأنظمة متعددة المستأجرين، حيث يمكن لمستخدم قراءة ذاكرة آخر7. أيّ مما يلي هو التقسيم الصحيح للصلاحيات المفرطة؟أ. زمن استجابة مفرط، وتكلفة مفرطة، واستهلاك مفرط للرموز في كل تشغيلب. بيانات تدريب مفرطة، وضبط دقيق مفرط، وتقييم غير كافٍج. وظائف مفرطة، وأذونات مفرطة، واستقلالية مفرطةد. الحقن المباشر، والحقن غير المباشر، والحقن متعدد الوسائط للتعليمات8. يحذف فريق مستندًا مسمومًا من مجموعة الاسترجاع لكن الوكيل ما زال يتصرّف بغرابة في ذلك الموضوع. ما التفسير الأرجح؟أ. المخرجات المشتقة — التضمينات والذاكرات المؤقتة والملخصات ومدخلات الذاكرة — لم يُزلها الحذفب. حفظ النموذج المستند أثناء التدريب ويعيد إنتاجه من أوزانهج. فهرس المجموعة مشفّر، فلم يستطع الحذف مطابقة المستند لإزالتهد. الحذف لا يسري إلا بعد إعادة تشغيل نموذج الخدمة وإعادة تحميل الفهرس9. لماذا يُنظَّم اختبار كسر القيود حول فئات الآليات بدل مكتبة محفوظة من الحمولات المعروفة؟أ. أسماء الفئات تُعرض على التنفيذيين بشكل أفضل من قائمة نصوص حمولات تقنيةب. مكتبات الحمولات لا يمكن تشغيلها داخل مسار تكامل مستمر دون موافقةج. النصوص المحددة تُرقَّع وتتحوّل إلى اختبار لما حُجب سلفًا، بينما تبقى الآلياتد. العمل بالفئات يلغي الحاجة إلى اختبار منظومة ضوابط الحماية المنشورة بمعزل عن النموذج نفسهتحقّق من إجاباتيالوحدة التالية: التحصين والضوابط ←