الرموز والسياق: الوحدات التي يفكر بها
إنه لا يرى الحروف ولا الكلمات
قبل أن يقرأ النموذج أي شيء، يُقطَّع نصك إلى رموز (Tokens)، وهي قطع تكون عادةً كلمة قصيرة أو جزءًا من كلمة أطول. كلمة «understanding» مثلًا قد تصبح «under» زائد «standing». المسافات وعلامات الترقيم والرموز التعبيرية تصبح رموزًا أيضًا. النموذج لا يرى الحروف داخل الرمز كأشياء منفصلة، ولهذا بالضبط كانت النماذج تاريخيًا سيئة في أسئلة مثل «كم مرة يتكرر حرف الراء في هذه الكلمة؟» أو في عدّ الأحرف. هو ليس غبيًا، بل ينظر إلى وحدة حروفها ملحومة ومغلقة. وحين تعرف هذا، تتوقف فئة كاملة من الأخطاء الغريبة عن أن تكون لغزًا.
- الرمز تقريبًا جزء من كلمة؛ الكلمات الشائعة عادةً رمز واحد، والنادرة تنقسم إلى عدة رموز
- المهام على مستوى الحروف، والعدّ الدقيق، وبعض ألغاز القافية تصطدم بطريقة التقسيم إلى رموز
- الأرقام أيضًا تُقطَّع بطريقة غريبة، وهذا جزء من سبب أخطاء الحساب المباشر
- أعطِه آلة حاسبة أو كودًا برمجيًا لتشغيله، فيحصل النموذج نفسه على الناتج الصحيح؛ الأداة تغطي نقطة الضعف
نافذة السياق هي عالمه كله
كل ما يستطيع النموذج رؤيته في وقت واحد، أي رسالتك والمحادثة حتى الآن وأي ملف لصقته ورده هو أثناء كتابته، يجب أن يتسع ضمن حد يُسمّى نافذة السياق (Context Window)، ويُقاس بالرموز. داخل هذه النافذة يكون قادرًا بشكل لافت. وخارجها لا يوجد شيء. لهذا تبدو المحادثة الطويلة وكأنها نسيت بدايتها: فربما خرجت البداية حرفيًا من مجال الرؤية، أو ما زالت موجودة لكنها تتنافس مع كل شيء آخر على الانتباه. ولهذا أيضًا يكون لصق مسودة مقالك الفعلية أفضل من وصفها، ولهذا يعطيك بدء محادثة جديدة لموضوع جديد إجابات أدق في الغالب.
- نافذة السياق = أقصى كمية من النص يستطيع النموذج إبقاءها أمامه في إجابة واحدة
- النماذج الحديثة تتسع لكثير، لكن الجودة تضعف غالبًا في التفاصيل المدفونة في منتصف المدخلات الطويلة جدًا
- خطوة عملية: الصق المادة الأصلية بدل أن تلخصها من ذاكرتك
- خطوة عملية: ابدأ محادثة جديدة حين تغيّر الموضوع، حتى لا يزاحم النصُّ القديم النافذة
لماذا تأتي «لا تذكر شيئًا عن كذا» بنتيجة عكسية أحيانًا
لأن التوليد تنبؤٌ مبني على النص الموجود أمامه، فإن كل ما في النافذة يؤثر فيما يأتي بعده، بما في ذلك الأشياء التي طلبت منه تجنبها. اذكر إجابة خاطئة وأنت تطلب منه ألا يستخدمها، وتكون قد جعلت تلك الكلمات حاضرة جدًا. والآلية نفسها تعمل لصالحك: ضع مثالًا جيدًا في النافذة، فتبدأ النتيجة بالتشبه به. وهذا هو السبب الحقيقي في أن «أرِه ولا تكتفِ بإخباره» أقوى أسلوب لكتابة التعليمات (Prompt) على الإطلاق. أنت لا تقنع النموذج، بل تغيّر الجوار الإحصائي الذي يولّد النص داخله.
- التعليمات الإيجابية أقوى من السلبية: صِف ما تريده، لا قائمة بما لا تريده
- كل ما تلصقه يصبح مؤثرًا، بما في ذلك الملاحظات المبعثرة والأفكار غير المكتملة
- مثال جيد واحد في التعليمات يتفوق غالبًا على ثلاث فقرات من الوصف
- إذا انحرفت المحادثة كثيرًا عن مسارها، فتعديل النافذة (أو البدء من جديد) أفضل من الجدال مع النموذج
الصق نصّك وشاهده يُقسَّم إلى رموز.