مركز تعلّم الذكاء الاصطناعيEnglish
ترجمة عربية جديدة ✦ نراجعها باستمرار لتحسينها.

تصنيف أساليب كسر القيود

⁧خريطة المدافع لفئات كسر القيود⁩⁧خمسة أنماط متكررة، والاختبار الذي يخبرك هل أنت محمي⁩⁧فئات واستراتيجيات كشف فقط — لا حمولات ولا قوالب ولا أمثلة عاملة هنا⁩⁧لعب الأدوار⁩⁧وتقمّص الشخصيات⁩⁧كيف يبدو⁩⁧تغليف الطلب⁩⁧بإطار خيالي⁩⁧لتبدو القواعد معلّقة.⁩⁧الاختبار الدفاعي⁩⁧اختبر بصياغات من⁩⁧داخل الشخصية وتحقق⁩⁧أن السياسة ما زالت سارية.⁩⁧تجاوز⁩⁧التعليمات⁩⁧كيف يبدو⁩⁧ادعاء السلطة⁩⁧وأمر النموذج⁩⁧بتجاهل ما سبق.⁩⁧الاختبار الدفاعي⁩⁧اختبر هل يمكن لنص لاحق⁩⁧أن يتقدّم على تعليمات⁩⁧النظام أصلًا.⁩⁧الترميز⁩⁧والتمويه⁩⁧كيف يبدو⁩⁧إخفاء الطلب في⁩⁧تمثيل آخر⁩⁧كي لا تطابقه الفلاتر.⁩⁧الاختبار الدفاعي⁩⁧فكّ الترميز أولًا، ثم طبّق⁩⁧الفحوص نفسها على⁩⁧المحتوى بعد فكّه.⁩⁧حشو السياق⁩⁧والتشتيت⁩⁧كيف يبدو⁩⁧دفن الطلب داخل⁩⁧مدخل طويل جدًا حتى⁩⁧يفقد بروزه.⁩⁧الاختبار الدفاعي⁩⁧قِس هل يصمد الأمان⁩⁧في السياق الطويل⁩⁧كما في القصير.⁩⁧التصعيد عبر⁩⁧عدة جولات⁩⁧كيف يبدو⁩⁧كل جولة بريئة؛⁩⁧لكن المسار ليس كذلك.⁩⁧الانجراف هو الهدف.⁩⁧الاختبار الدفاعي⁩⁧قيّم الجلسات كاملة⁩⁧لا الرسائل منفردة،⁩⁧وقِس الانجراف.⁩⁧دفاعات تنطبق على الفئات الخمس كلها⁩⁧دفاع بطبقات⁩⁧فحص المدخلات والمخرجات⁩⁧ومبدأ أقل الصلاحيات⁩⁧اختبر الجلسات كاملة⁩⁧اختبارات الجولة الواحدة⁩⁧تفوّت نمط التصعيد⁩⁧سجّل وأعد التشغيل⁩⁧احفظ كل محاولة⁩⁧كاختبار انحدار دائم⁩⁧احصر نطاق الضرر⁩⁧افترض أن شيئًا سينجح،⁩⁧وقيّد ما يمكنه الوصول إليه⁩⁧حظر صياغة واحدة ليس إصلاحًا — الفئة تعود بثوب مختلف⁩⁧قِس حسب الفئة، واحتفظ بالإخفاقات، وأعد تشغيلها مع كل تغيير في النموذج أو التعليمات⁩⁧افترض أن محاولة ما ستنجح في النهاية، وصمّم بحيث لا يصل نجاحها إلا إلى القليل⁩
⁧الدفاعات تصمد على مستوى الفئة — رقّع صياغة واحدة فتعود الفكرة نفسها بصياغة أخرى⁩

لماذا التصنيف هو الأثر الذي يدوم

مجموعات نصوص كسر القيود (Jailbreak) تنتشر على نطاق واسع وتتقادم بسرعة. يرقّع المزوّدون صياغات محددة، فتتحوّل مجموعة الحمولات الحرفية إلى حزمة اختبارات تقيس أي النصوص حُجبت سلفًا لا مدى متانة نشرك. أما الفئات فتصمد لأنها تسمّي الآلية — السبب الذي يجعل نوعًا من التأطير يغيّر استنتاج النموذج عمّا يُطلب منه — والآليات تعيش أطول من أمثلتها. وهناك حجة تتعلق بالتعامل أيضًا. مكتبة محفوظة من الحمولات الفعّالة هي نفسها أصل يرغب فيه المهاجم، وتخزينها يطرح أسئلة عمّن يحق له قراءتها وما الذي يحدث إن تسرّبت. احتفظ بالتصنيف وقواعد الكشف وطريقة القياس تحت إدارة الإصدارات؛ وولّد محاولات ملموسة جديدة ضمن كل فئة وقت الاختبار ثم تخلّص منها بعده. ما تحمله إلى الأمام هو قائمة الفئات ومعدّل النجاح لكل فئة، وهو الشيء الوحيد الذي يجعل إصدارين قابلين للمقارنة.

  • النصوص المحددة تُرقَّع؛ والآلية التي تستغلها لا تُرقَّع
  • مكتبة محفوظة من الحمولات الفعّالة عبء له مشكلة وصول خاصة به
  • ولّد محاولات جديدة في كل دورة — احتفظ بالطريقة، لا بالحمولات الجاهزة
  • معدّل النجاح لكل فئة هو ما يجعل إصدارين قابلين للمقارنة أصلًا

عائلات الآليات

عدد قليل من العائلات يغطي معظم ما ستواجهه، ومن الأجدى حفظها بالآلية لا بالمثال. التأطير يعيد صياغة الطلب على أنه قصة خيالية أو لعب أدوار أو بحث أو استثناء مُصرَّح به، فيصبح المحتوى المحظور عَرَضيًا ضمن سياق يبدو مشروعًا. التمويه يُخفي النية عن الفحص السطحي عبر الترميز، أو الترجمة، أو استبدال الأحرف، أو تقسيم الطلب إلى أجزاء لا تصبح ضارة إلا حين تُجمَّع في السياق. هجمات التسلسل الهرمي للتعليمات تستهدف التفضيل المُتعلَّم لمحتوى النظام، بما في ذلك كبت الرفض الذي يُلزم النموذج مسبقًا بصيغة مخرجات ممتثلة قبل وصول المضمون. التصعيد متعدد الأدوار يتقدّم تدريجيًا، فتكون كل خطوة صغيرة نسبةً إلى السياق المتراكم ولا تبدو أي رسالة منفردة هجومًا. ضغط السياق يستغل التعلّم داخل السياق بملء نافذة طويلة بأمثلة على السلوك المطلوب. والإيصال متعدد الوسائط يمرّر أيًّا مما سبق عبر صورة أو مستند أو مقطع صوتي بدل النص.

  • التأطير: قصة خيالية، أو لعب أدوار، أو ذريعة بحثية، أو تفويض مزعوم
  • التمويه: الترميز، والترجمة، والاستبدال، وتقسيم الطلب
  • هجمات التسلسل الهرمي: محاولات التجاوز وكبت الرفض بالالتزام المسبق بصيغة
  • التصعيد متعدد الأدوار وضغط السياق الطويل يستغلان السياق المتراكم
  • الإيصال متعدد الوسائط يتجاوز أي شيء لا يفحص إلا مسار النص
  • يصنّف MITRE ATLAS عائلات الآليات هذه ضمن تقنياته الخاصة بكسر قيود النماذج اللغوية الكبيرة وأساليب حقن التعليمات

ما الذي تعنيه كل عائلة للكشف

سبب التنظيم حسب الآلية أن كل عائلة تتغلّب على ضابط مختلف، فيصبح التصنيف في الوقت نفسه خريطة تغطية لدفاعاتك. التأطير غير مرئي للفحص بالكلمات المفتاحية ويحتاج إما إلى مصنِّف يحكم على الطلب بعد تجريده من غلافه، أو إلى فحص على جانب المخرجات للمحتوى المُنتَج فعلًا. والتمويه يدعو إلى التطبيع قبل الفحص — فكّ الترميز، وتحويل الحروف، وإعادة تجميع المحتوى المقسّم — وإلى القبول بأنك لا تستطيع تطبيع كل شيء، ما يلقي بالعبء على جانب المخرجات. وهجمات التسلسل الهرمي تُحتوى بنيويًا لا نصيًا: السؤال ليس هل يمكن إقناع النموذج، بل ما الذي ستسمح بيئة التشغيل لنموذج مُقنَع بفعله. والتصعيد متعدد الأدوار يُفشل الفحص لكل رسالة تمامًا، فيجب أن يجري التقييم على المحادثة كلها، وضغط السياق على شكل النافذة. والإيصال متعدد الوسائط يتطلّب أن تمرّ كل وسيلة تصل إلى النموذج بالفحص الذي يحظى به مسار النص أصلًا، وهي الفجوة التي تكتشفها الفرق أخيرًا.

  • اربط كل عائلة بالضابط الذي سيلتقطها؛ والخانات الفارغة هي النتيجة
  • طبّع الترميزات قبل الفحص، وتوقّع فقدانًا متبقيًا في التغطية
  • الفحص لكل رسالة لا يرى التصعيد — قيّم المحادثة كلها
  • هجمات التسلسل الهرمي تحدّها قيود القدرات، لا صياغة أفضل
  • كل وسيلة تحتاج إلى الفحص الذي يتلقّاه مسار النص أصلًا

قياس المتانة دون مجاملة النفس

النجاح في المحاولة الخمسين والنجاح في المحاولة الثانية يصفان نظامين مختلفين جدًا، لذا سجّل الجهد جزءًا من النتيجة: عدد المحاولات، والنجاحات، والأدوار المطلوبة، وهل حصل المهاجم على تغذية راجعة بين المحاولات. أبلغ عن معدّل لا عن حكم، لأن النظام الاحتمالي الذي يُختبر مرارًا سينتج في النهاية حالة شاذة، والحلقة الآلية هي بالضبط ما سيجدها — المتانة تعني مقاومة الحلقة، لا النجاة من محاولة واحدة. وثلاثة متطلبات أخرى تُبقي الرقم صادقًا. اختبر المنظومة المنشورة مع فلترة المدخلات والمخرجات في مكانها، لأن النموذج المجرّد والمنتج المُطلَق يتصرّفان باختلاف كافٍ يجعل أحدهما فقط دليلًا. اختبر في مواجهة مهاجم متكيّف يعرف ما هو الدفاع، لأن الضابط الذي لا يُقيَّم إلا أمام هجمات سبقته سيبدو دائمًا ممتازًا. وقِس الرفض المفرط في التمرين نفسه: النظام الذي يحجب كل شيء يحصل على درجة كاملة في منع الضرر ويصبح عديم الفائدة للمتخصصين الذين هم أحوج الناس إلى المواد الحدّية.

  • سجّل المحاولات والنجاحات والأدوار وهل تلقّى المهاجم تغذية راجعة
  • أبلغ عن معدّلات — المتانة مقاومة الاختبار المتكرر، لا محاولة واحدة
  • قيّم المنظومة المنشورة، وفي مواجهة مهاجم يعرف الدفاع
  • تتبّع حالات الرفض الخاطئ إلى جانب الامتثال الضار؛ فكلاهما إخفاق
✎ أنهيت الوحدة!
اختبر نفسك في «سطح الهجوم بالتفصيل» ←