تأمين أنظمة الذكاء الاصطناعي‹التحصين والضوابطاختبر نفسك8 أسئلة عن «التحصين والضوابط». اختر إجابة لكل سؤال، ثم اضغط «تحقّق من إجاباتي».1. لماذا تكون الأداة المصمّمة لغرض محدد أكثر أمانًا عمومًا من أداة تقبل أي استعلام؟أ. لأنها تستهلك رموزًا أقل من السياق، إذ إن مخططها أضيق بكثير من واجهة استعلام عامةب. لأنه لا يمكن توجيهها لإرجاع شيء غير هدفها المقصود أو التأثير فيهج. لأنها تُنفَّذ أسرع، إذ إن خطة الاستعلام ثابتة لا تُبنى عند كل طلبد. لأنها لا تحتاج إلى بيانات اعتماد خاصة بها، إذ تعمل بهوية المستدعي بدلًا من ذلك2. وكيل يسترجع بيانات خاصة بالمستخدم باستخدام هوية خدمة مشتركة. ما الخطر الرئيسي؟أ. كلفة استدلال أعلى لكل طلب، لأن الهوية المشتركة تجلب أكثر مما يلزمب. يصبح فهرس الاسترجاع غير حتمي، فيُرجع ترتيبًا مختلفًا لكل مستدعٍج. قد يُرجع بيانات لا يحق للمستخدم صاحب الطلب رؤيتها — أي كشف من نوع «النائب المرتبك»د. تصبح التتبّعات أكبر من اللازم، لأن كل تشغيل يسجّل المجموعة الكاملة تحت هوية واحدة3. لماذا يوصف الرفض الافتراضي للاتصال الخارجي بأنه الضابط الذي يصمد حتى حين تفشل الطبقات الأخرى؟أ. لأن النماذج مدرّبة على احترام سياسة الشبكة المعلنة في تعليماتهاب. لأنه يحجب التعليمات المحقونة قبل أن تصل إلى نافذة سياق النموذج أصلًاج. لأنه يلغي الحاجة إلى بوابات موافقة على أي فعل صادر يقوم به الوكيلد. لأن البنية التحتية هي التي تفرضه، فيصمد أمام نموذج اقتنع تمامًا4. ما الذي لا تحمي منه البيئة المعزولة تحديدًا؟أ. وصول كود مولَّد عشوائي إلى نظام ملفات المضيفب. الاستهلاك غير المحدود للمعالج والذاكرة من الكود المنفّذج. الأفعال المنفّذة عبر أدوات الوكيل المشروعة والمعتمدة خارج البيئة المعزولةد. استمرار الحالة المكتوبة بين عمليات التشغيل5. ما السبب الرئيسي لوضع بوابات على أفعال قليلة لا كثيرة؟أ. كل بوابة تضيف تأخيرًا يتراكم عبر تشغيل متعدد الخطواتب. أدوات الموافقة مكلفة الترخيص لكل مراجعج. أصحاب الموافقة لا يستطيعون رؤية معاملات الأداة الكاملة حين يرتفع الحجم، فيحكمون بناءً على الملخصد. الحجم المرتفع يولّد نقرًا تلقائيًا، يوثّق قرارًا لم يحدث قط6. ما الذي يضمنه التوليد المقيّد وفق مخطط، وما الذي لا يضمنه؟أ. يضمن صلاحية الشكل، لا أن القيم المختارة صحيحة أو آمنةب. يضمن أنه لا يمكن حقن النموذج عبر معامل أداة منظّمج. يضمن أن الاستدعاء مفوَّض للمستخدم صاحب الطلب، لأن الهوية موجودة في المخططد. يضمن أن الحقول النصية الحرة داخل المخطط لا تحتوي تعليمات مضمَّنة7. الهجمات الحقيقية نادرة مقارنةً بإجمالي الحركة. ماذا يترتّب على ذلك لمصنِّف ضوابط حماية بمعدّل منخفض من الإنذارات الكاذبة؟أ. يتوقف معدّل الإنذارات الكاذبة عن الأهمية حين يكون المعدّل الأساسي للهجمات منخفضًا بما يكفيب. سيحجب طلبات مشروعة أكثر بكثير من الهجمات، ما يدفع المستخدمين نحو أدوات غير مراقَبةج. سيفشل في تسجيل الإيجابيات الحقيقية، التي تضيع وسط حجم الحركة السليمةد. سيحتاج إلى إعادة تدريب بعد كل ترقية للنموذج للحفاظ على نقطة التشغيل نفسها8. أي حقل في التتبّع يتبيّن غالبًا أنه مفقود حين تحتاج حادثة إلى إعادة بناء؟أ. التعليمات كما جُمعت فعلًا بعد القوالب والاسترجاع وإدارة السياقب. رمز حالة HTTP الذي أرجعه كل استدعاء لواجهة API للنموذج أثناء التشغيلج. اسم عائلة النموذج التي خدمت الطلب والإصدار المثبّت لهاد. إجمالي عدد الرموز المستهلكة عبر التشغيل كله، مفصّلًا حسب الخطوة والأداةتحقّق من إجاباتيالوحدة التالية: الاختبار والاستجابة والحوكمة ←