تنبؤ، لا فهم
الجملة الواحدة التي تشرح معظم الأمر
النموذج اللغوي الكبير (Large Language Model) نظامٌ يتنبأ بالنص الذي ينبغي أن يأتي بعد ذلك. هذه هي الحيلة كلها. تعطيه بعض الكلمات، فيحسب أيّ كلمة هي الأرجح أن تليها، ويضيفها، ثم يكرر الشيء نفسه مع النص الذي صار أطول قليلًا. كرّر ذلك بضع مئات من المرات تحصل على مقال. يبدو الأمر كأنه محادثة لأن الكتابة البشرية مليئة بالأنماط، وقد استوعب النموذج عددًا هائلًا منها. لكن لا توجد لحظة يتوقف فيها النموذج ويسأل نفسه: «هل أعرف هذا فعلًا؟». إنه ينتج تكملات معقولة، والمعقول ليس هو الصحيح.
- يعمل النموذج على قطعة صغيرة من النص في كل مرة، من البداية إلى النهاية، ولا يخطط للإجابة كاملة مسبقًا كما تفعل أنت
- «الكلمة التالية الأرجح» تُحسب من أنماط النصوص، لا من التحقق من الواقع
- الطلاقة والصحة صفتان منفصلتان، والنموذج مُحسَّن بقوة من أجل الأولى
- هذه الحقيقة الواحدة تفسّر تقريبًا كل تصرف غريب يقوم به الذكاء الاصطناعي
هل يفهم شيئًا؟
هذا سؤال خلافي فعلًا، ومن يعطيك إجابة واثقة من كلمة واحدة يبالغ في التبسيط. أما غير الخلافي فهو: النموذج لا جسد له، ولا ذاكرة لديه عن الأمس إلا إذا أعطاه التطبيق واحدة، وليست له أهداف خاصة، ولا طريقة لديه لمقارنة أي ادعاء بالعالم الحقيقي. وصحيح أيضًا أنه، لكي يتنبأ بالنص جيدًا في ملايين المواضيع، بنى بوضوح تمثيلات داخلية تتصرف كثيرًا مثل المفاهيم. يستطيع أن يطبّق فكرة على موقف لم يره من قبل. الإجابة الصادقة تقع في مكان ما بين «مجرد إكمال تلقائي» و«يفكر مثلك»، وما زال الباحثون يتجادلون حول موقعها بالضبط.
- ليست لديه حواس، ولا وجود متصل، ولا مصلحة له في أن يكون على صواب
- ومع ذلك يستطيع التعميم، أي تطبيق نمط على حالة جديدة، وهذا ما لا يمكن للبحث في قائمة محفوظة أن يفعله
- موقف عملي مفيد: تعامل معه كآلة أنماط واسعة الاطلاع جدًا، لا كعقل ولا كقاعدة بيانات
- كن متشككًا في المبالغة («إنه واعٍ تقريبًا») وفي الاستخفاف («إنه مجرد إكمال تلقائي») معًا
لماذا يهمك هذا الآن
إذا اعتبرت الذكاء الاصطناعي (AI) محرك بحث، فستثق به في الأماكن الخطأ تمامًا. محرك البحث يعيد لك مستندات موجودة، أما النموذج فيولّد نصًّا لم يكن موجودًا قبل أن تسأل. وإذا اعتبرته إنسانًا، فستفترض أنه يتذكر محادثتك السابقة، أو يهتم بدرجتك، أو سيخبرك حين يكون غير متأكد. وهو لا يفعل أيًّا من ذلك افتراضيًا. حين تصحّح تصورك الذهني يتغير سلوكك: تبدأ بالتحقق من الأشياء التي تستحق التحقق، وتتوقف عن إهدار جهدك في التحقق مما يُتقنه فعلًا، مثل إعادة صياغة فقرة كتبتها بنفسك.
- ليس محرك بحث: إنه يكتب إجابة بدل أن يسترجعها، إلا إذا كانت الأداة تبحث صراحةً
- ليس إنسانًا: لا ذاكرة بين المحادثات افتراضيًا، ولا مصلحة له في نتيجتك
- موثوق جدًا في تحويل النص الذي تعطيه إياه: التلخيص، وإعادة الترتيب، وتغيير الأسلوب
- أقل موثوقية بكثير في الحقائق التي عليه أن ينتجها من لا شيء، خصوصًا الدقيقة منها
شاهد النموذج يختار الكلمة التالية، كلمةً كلمة.