الميزانيات وسقوف التكلفة
أربع ميزانيات لا واحدة
حدّ الخطوات وحده لا يكفي، لأن الأشياء الأربعة التي يمكن أن تنفلت مترابطة ترابطًا ضعيفًا فقط. الخطوات تحدّ عدد القرارات التي يتخذها الوكيل الذكي (Agent). والرموز (Tokens) تحدّ نمو السياق، وهي تنمو بوتيرة أسرع من الخطية في الحلقة الساذجة لأن كل خطوة تعيد إرسال كل ما سبقها. والوقت الفعلي يحدّ مدة انتظار المستدعي أو الطابور، وهو الذي يهم في كل ما يواجه المستخدم أو يحتجز قفلًا. والإنفاق يحدّ الالتزام المالي الفعلي، وهو الوحيد المقوَّم بالوحدة التي يعرفها فريقك المالي. قد يبقى تشغيلٌ مرتاحًا داخل حدّ العشرين خطوة ومع ذلك يستهلك مبلغًا مذهلًا إذا حملت كل خطوة سياقًا ضخمًا، أو يعطّل طابورًا لساعة بسبب أداة خارجية بطيئة. تتبّع الأربع جميعها وطبّقها لكل تشغيل، وتعامل مع تجاوز أي منها كنتيجة مستقلة.
- الخطوات والرموز والوقت الفعلي والإنفاق تنهار كلٌّ على حدة — ضع حدًّا لكل منها
- نمو الرموز أسرع من الخطي في الحلقة الساذجة: كل خطوة تعيد إرسال السجل
- الوقت الفعلي هو الميزانية المهمة للطوابير والأقفال والمستدعين المنتظرين
- سجّل أي ميزانية تجاوزها التشغيل؛ فلكل من الأربع علاج مختلف تمامًا
طبّق قبل الاستدعاء، في بيئة التشغيل
افحص الميزانيات في بداية كل تكرار وقبل إرسال كل استدعاء أداة، لا بعد وقوع الأمر. إخبار النموذج في تعليمات النظام (System prompt) بأن لديه عددًا محدودًا من الخطوات سياق مفيد لكنه تطبيق عديم القيمة — فهو أحيانًا يقتصد في نفسه وأحيانًا لا، ولا تستطيع أن تعرف أيهما. حالة الميزانية مكانها كائن التشغيل، وتُنقصها بيئة التشغيل، وأي وكيل فرعي يرث من الحصة المتبقية للوكيل الأصل بدل أن يتلقى حصة جديدة، وإلا فإن الوكيل الذي يفوّض يضاعف سقفه بعدد الوكلاء الفرعيين الذين ينشئهم. هذا الخطأ تحديدًا سهل الكتابة ومكلف الاكتشاف. ومن المجدي إضافة حدود لكل أداة لأي شيء له تكلفة خارجية أو حدّ للمعدّل، كي لا يُستدعى استدعاء مكلف واحد أربعين مرة داخل تشغيل معقول في ما عدا ذلك.
- افحص في بداية التكرار وقبل كل إرسال، ولا تفحص بعد ذلك أبدًا
- الميزانية المذكورة في التعليمات سياق، لا ضابط
- الوكلاء الفرعيون يسحبون من حصة الوكيل الأصل — الميزانيات الجديدة تضاعف السقف
- أضف سقوفًا لكل أداة لكل ما هو مكلف خارجيًا أو محدود المعدّل
ما الذي يحدث عند السقف
بلوغ الحدّ نتيجة مصمَّمة ويجب أن يتصرف كذلك. ينبغي للتشغيل أن يحفظ نقطة استئناف لحالته، وأن يُنتج أي نتيجة جزئية لديه بشكل مشروع، وأن يسجّل أي ميزانية تجاوزها وعند أي خطوة، وأن يُرجع حالة يستطيع المستدعي التصرف بناءً عليها بدل إخفاق عام. أما اقتطاع السياق بصمت لمواصلة العمل فهو أسوأ خيار متاح، لأنه يحوّل توقفًا نظيفًا قابلًا للنسب إلى وكيل يواصل وهو فاقد للذاكرة ويُنتج عملًا خاطئًا بثقة. وهناك تحسينان يستحقان ثمنهما. نبّه النموذج قبل السقف لا عنده — خطوة أو اثنتان من الإشعار المسبق تتيحان له إنهاء عمله وكتابة تسليم مفيد بدل أن يُقطع في منتصف فعل. واجعل الحالة الناتجة قابلة للاستئناف، كي يستطيع الإنسان الذي يقرر أن المهمة تستحق ميزانية أكبر أن يمدّها بدل البدء من جديد.
- احفظ نقطة استئناف، وأرجع العمل الجزئي، وأبلغ عن الميزانية التي تُجووزت وأين
- الاقتطاع الصامت يحوّل توقفًا نظيفًا إلى وكيل يعمل وهو فاقد للذاكرة
- نبّه قبل السقف بخطوة كي يستطيع الوكيل كتابة تسليم
- اجعل الحالة المتوقفة قابلة للاستئناف — مدّ الميزانية يجب ألا يعني إعادة التشغيل
تحديد الأرقام بصدق
يجب أن تنبع السقوف من قيمة المهمة ومن هامش تحمّلها، لا مما بدا آمنًا خلال التطوير. احسب قيمة التشغيل الناجح، وقرّر أي مضاعف للتكلفة الوسيطة أنت مستعد لدفعه قبل أن تفضّل أن يلقي إنسان نظرة، وضع السقف هناك. ثم انظر إلى التوزيع لا إلى المتوسط، لأن توزيعات تكلفة الوكلاء ذات ذيول طويلة، والذيل هو حيث يقع المال والقيمة التشخيصية معًا: التشغيلات عند المئين الخامس والتسعين من الخطوات تكون عادةً مرتبكة لا متأنية، وقراءة عدد قليل منها ستخبرك عن أوصاف أدواتك أكثر من أي مقياس إجمالي. توقّع أن تُضيّق السقوف مع الوقت كلما تحسّنت الأدوات، وتعامل مع ارتفاع القيمة الوسيطة كتراجع يحتاج إلى تفسير حتى حين يبقى معدّل النجاح ثابتًا.
- استخرج السقف من قيمة المهمة ومن النقطة التي يصبح عندها الإنسان أرخص
- اقرأ الذيل — التشغيلات كثيرة الخطوات مرتبكة أكثر بكثير مما هي متأنية
- ارتفاع التكلفة الوسيطة لكل نجاح تراجعٌ حتى مع ثبات معدّل النجاح
- يجب أن تضيق السقوف مع تحسّن الأدوات والتعليمات، لا أن تنجرف صعودًا
جرّب بنفسك
السقف الذي لا تستطيع الإشارة إليه في الكود سقفٌ لا تملكه، والأمر نفسه ينطبق على شرط الإنهاء. يستغرق هذا نحو نصف ساعة على وكيل واحد، ويترك لك جدولًا يستحق الاحتفاظ به في وثيقة التصميم.
اختر وكيلًا واحدًا تملكه. إن لم تكن تملك أيًّا منها، فخذ منتجًا وكيليًا تستخدمه بانتظام واملأ الجدول وفق التصميم كما تعتقد أنه يعمل، أو للنظام الذي ترسمه حاليًا. عدّد كل طريقة يمكن أن تنتهي بها حلقته: الأدوات الختامية، والميزانيات الأربع، وكاشف التعثّر إن وُجد. لكل صف، اكتب الرقم والملف والسطر الذي يقيّمه فيه كودك. ثم تجاوز سقفًا واحدًا عمدًا وتحقّق من أن السبب المسجَّل هو الصف الذي توقعته.
الوكيل: مخارج الحلقة المخرج | الشرط | القيمة | مكان التطبيق (file:line) | الحالة المُرجَعة أداة ختامية - نجاح | | | | أداة ختامية - تصعيد | | | | ميزانية الخطوات | | | | ميزانية الرموز | | | | ميزانية الوقت الفعلي | | | | ميزانية الإنفاق | | | | كاشف التعثّر | | | | مخطط الأداة الختامية (الحقول الإلزامية فقط) submit( result // المُخرَج الذي يحتاجه المستدعي evidence // ما الذي عولج، وما الذي فُحص، وما الذي أعاده الفحص identifiers // السجلات التي جرى المساس بها caveats // ما يجب ألا يفترضه المستدعي ) أي صف بلا ملف وسطر هو شرط لا تطبّقه حاليًا.
- كل صف يذكر ملفًا وسطرًا، أو موسوم صراحةً بأنه غير مطبَّق
- تستطيع الإشارة إلى سطر الكود الوحيد الذي يُنهي الحلقة عند النجاح، وهو ليس جملة في التعليمات
- التجاوز المتعمَّد يتوقف عند السقف الذي توقعته ويُبلغ عن الميزانية التي تُجووزت