مركز تعلّم الذكاء الاصطناعيEnglish
ترجمة عربية جديدة ✦ نراجعها باستمرار لتحسينها.
نُشر في 1 نوفمبر 2026

ما هو الوكيل الذكي فعلًا (وخمسة أسئلة تطرحها قبل أن تثق بأحدهم)

أصبحت كلمة «وكيل» أكثر الكلمات مطّاطية في تسويق الذكاء الاصطناعي (AI). تُستخدم لوصف روبوتات الدردشة، وأنظمة الأتمتة التي كانت موجودة قبل الذكاء الاصطناعي بزمن طويل، وأنظمة قادرة فعلًا على العمل وحدها لساعات. وإذا طُلب منك أن تشتري وكيلًا أو تبنيه أو توافق عليه، فمن المفيد أن تعرف ما الذي ينبغي أن تعنيه الكلمة، وما الذي تسأل عنه قبل أن تثق به.

التعريف المختصر

المساعد الحواري يجيب. أما الوكيل فيتصرّف.

وبدقة أكبر، الوكيل الذكي (AI Agent) هو نموذج لغوي (Language Model) يعمل داخل حلقة متكررة ولديه وصول إلى أدوات. يتلقّى هدفًا، ويقرّر الخطوة التالية، ويستخدم أداة لتنفيذ تلك الخطوة، وينظر في النتيجة، ثم يقرّر ما يفعله بعد ذلك. ويكرّر هذا إلى أن يرى أن الهدف قد تحقق أو أن يعلق.

الأدوات هي ما يجعله وكيلًا. قد تتيح له البحث في الويب، أو قراءة الملفات وكتابتها، أو تشغيل الكود، أو إرسال البريد الإلكتروني، أو تحديث جدول بيانات، أو التنقّل بالنقر داخل موقع إلكتروني. من دون أدوات، لا يستطيع النموذج إلا أن يصف ما ينبغي أن يحدث. ومعها، يستطيع أن يجعله يحدث.

وهذه الحلقة هي أيضًا سبب اختلاف تجربة استخدام الوكلاء إلى هذا الحد. أنت لا توافق على كل جملة، بل توافق على هدف، والوكيل يختار الخطوات. هذا هو جوهر الفكرة كلها، وهو أيضًا مصدر الخطر.

أين يتفوّق الوكلاء

يكون الوكلاء في أقوى حالاتهم في المهام الطويلة والمملّة التي يسهل التحقق منها. من الأمثلة: جمع المعلومات من مصادر كثيرة في ملخص واحد، أو إصلاح خلل برمجي يوجد اختبار يُظهر هل نجح الإصلاح، أو تعبئة النماذج انطلاقًا من مستندات، أو ترتيب البيانات. في هذه المهام يوفّر الوكيل ساعات، ويستطيع الإنسان التحقق من النتيجة في دقائق.

أين يفشل الوكلاء

إخفاقاتهم تختلف عن إخفاقات روبوت الدردشة، وعادةً ما تكون أكثر كلفة:

  • الأخطاء الصغيرة تتراكم. النموذج المُصيب بنسبة 95% في كل خطوة يخطئ أكثر بكثير على امتداد مهمة من 30 خطوة. والأخطاء المبكرة يُبنى عليها بدل أن تُكتشف.
  • يتوقفون مبكرًا، أو لا يتوقفون أبدًا. قد يعلن الوكيل نجاحه في مهمة لم تكتمل، أو يدور في حلقة حول مشكلة لا يستطيع حلّها.
  • ينفّذون تعليمات ما كان ينبغي أن ينفّذوها. الوكيل الذي يقرأ صفحة ويب أو رسالة بريد إلكتروني يمكن خداعه بتعليمات مخبّأة في ذلك المحتوى. يُسمّى هذا حقن التعليمات (Prompt injection)، وهو أهم مشكلة أمنية في الوكلاء اليوم.
  • الأخطاء أفعال، لا كلمات. الإجابة الخاطئة من روبوت الدردشة فقرة سيئة. أما الفعل الخاطئ من الوكيل فهو رسالة بريد أُرسلت، أو ملف حُذف، أو سجلّ تغيّر.

التركيبة التي يجب الانتباه إليها

يشير باحثو الأمن إلى تركيبة واحدة خطيرة بشكل خاص، تُسمّى أحيانًا «الثلاثي القاتل» (lethal trifecta): وكيل يستطيع

  1. قراءة بيانات خاصة،
  2. واستقبال محتوى غير موثوق (صفحات ويب، ورسائل بريد، ومستندات من جهات خارجية)،
  3. وإرسال المعلومات إلى الخارج (البريد الإلكتروني، وطلبات الويب، ونشر الرسائل).

حين تجتمع العناصر الثلاثة، يكفي مستند خبيث واحد ليأمر الوكيل بجمع البيانات الخاصة وإرسالها إلى المهاجم، وقد يفعل الوكيل ذلك وهو يبدو كأنه يعمل بشكل طبيعي. وإزالة أيّ عنصر من الثلاثة تُفشل الهجوم. وهذا ما يجعله فحصًا أوليًا مفيدًا لأي تصميم وكيل.

خمسة أسئلة تطرحها قبل أن تثق بأحدهم

سواء كان مورّد يبيعك وكيلًا أو كان فريقك يبني واحدًا، اسأل:

  1. ما الأدوات التي يستطيع استخدامها، وما المسموح لكل منها أن تفعله؟ عبارة «لديه وصول إلى البريد الإلكتروني» يجب أن تصبح «يستطيع قراءة صندوق بريد الدعم وكتابة مسودات الردود، لكن لا يستطيع إرسالها».
  2. هل يجتمع فيه الثلاثي القاتل؟ إذا كان يقرأ بيانات خاصة ومحتوى غير موثوق ويستطيع إرسال أشياء إلى الخارج، فاسأل كيف يتم احتواء ذلك.
  3. أيّ الأفعال تحتاج إلى موافقة إنسان؟ كل ما يصعب التراجع عنه، مثل المدفوعات أو عمليات الحذف أو الرسائل الخارجية أو تغيير السجلات، يجب أن يتوقف بانتظار شخص.
  4. ما أسوأ ما يمكن أن يفعله في تشغيل واحد؟ ثم اسأل كيف يُفرض هذا الحد: بصلاحيات لا يستطيع الوكيل تغييرها، أم بمجرد مطالبته بلطف في تعليماته؟
  5. كيف تعرف أنه نجح؟ هل يوجد سجلّ بكل فعل قام به، واختبار يُظهر كم مرة ينجز المهمة بشكل صحيح؟

الإجابة الجيدة عن الأسئلة الخمسة لا تجعل الوكيل آمنًا، لكن الإجابة الغامضة عن أيّ منها سبب كافٍ للانتظار.

للتعمّق أكثر

دورة هندسة الوكلاء تشرح كيف يُبنى الوكلاء، من حلقة الأدوات إلى التقييم، للمهندسين الذين يطلقونهم. ودورة تأمين أنظمة الذكاء الاصطناعي تتعمّق في حقن التعليمات والثلاثي القاتل، كما تمنحك لوحة نمذجة التهديدات (threat-model canvas) الخاصة بنا طريقة في صفحة واحدة لتطبيق هذه الأسئلة على ميزة حقيقية. ولأساسيات طريقة عمل النماذج التي تقوم عليها هذه الأنظمة، ابدأ بدورة أساسيات الذكاء الاصطناعي. مجانية، مثل كل شيء على مركز تعلّم الذكاء الاصطناعي.

دورات مجانية ذات صلة