مركز تعلّم الذكاء الاصطناعيEnglish
ترجمة عربية جديدة ✦ نراجعها باستمرار لتحسينها.

لماذا يخترع الذكاء الاصطناعي أشياء أحيانًا؟

⁧يبدو واثقًا، لكنه مخطئ⁩ ⁧ذكاء اصطناعي⁩ ⁧أينشتاين كتب⁩ ⁧كتاب النجوم!⁩ ⁧أنت⁩ ? ? ⁧تأكّد دائمًا!⁩

عندما يخطئ الذكاء الاصطناعي

روبوتات المحادثة مصمّمة لتعطيك ردًّا دائمًا. والمشكلة أنها أحيانًا لا تعرف الجواب، لكنها بدل أن تقول «لا أعرف»، تخترع شيئًا يبدو صحيحًا. هذا يسمّى «الهلوسة» (Hallucination).

  • الذكاء الاصطناعي (AI) يولّد الإجابة التي تبدو الأكثر احتمالًا، لكن الأكثر احتمالًا ليس صحيحًا دائمًا
  • الأمر يشبه شخصًا يصف لك الطريق بثقة كبيرة مع أنه لا يعرفه
  • تحقّق دائمًا من المعلومات المهمّة التي يعطيك إياها الذكاء الاصطناعي من مصدر موثوق
  • شركات الذكاء الاصطناعي تعمل بجدّ لتقلّل حدوث ذلك

لماذا يبدو واثقًا إلى هذا الحد؟

إليك الجزء المخادع: الذكاء الاصطناعي يبدو واثقًا تمامًا وهو مخطئ، كما يبدو وهو مصيب. لماذا؟ لأنه لا يتحقّق من المعلومات في كتاب كبير للحقيقة، بل ينتج الكلمات التي تبدو الأكثر احتمالًا. و«الظهور بمظهر الواثق» جزء من النمط الذي تعلّمه، لأن معظم الكتابات التي درسها تبدو واثقة! الأمر يشبه صديقًا يجيب عن كل سؤال في المسابقة بصوت عالٍ وواثق، حتى الأسئلة التي يخمّن إجاباتها تخمينًا. الثقة لا تخبرك شيئًا عن صحّة الإجابة. لذلك لا تحكم على إجابة الذكاء الاصطناعي من نبرتها، بل احكم عليها بالتحقّق منها.

  • ليس في داخل الذكاء الاصطناعي جرس إنذار يقول «لست متأكّدًا»، فالثقة مجرّد جزء من النمط
  • الإجابات الصحيحة والخاطئة تخرج بالصوت نفسه تمامًا
  • الصوت الواثق ليس دليلًا، لا عند الذكاء الاصطناعي ولا عند الناس!

كن بطلًا في التحقّق من المعلومات

إذن كيف تكتشف الهلوسة؟ بفحص يستغرق دقيقتين. أولًا، اسأل نفسك: هل هذا مهمّ فعلًا؟ إذا أخطأ الذكاء الاصطناعي في لون التنّين في قصتك، فلا مشكلة. أمّا إذا كانت معلومة لواجب مدرسي، أو سؤالًا عن الصحة، أو شيئًا ستخبر به أصدقاءك، فتحقّق منه. ابحث عن المعلومة نفسها في مكان يهتمّ بالحقيقة: كتاب مدرسي، أو موسوعة، أو موقع موثوق، أو ببساطة اسأل أحد الكبار. وهناك شيء واحد لا ينفع: أن تسأل الذكاء الاصطناعي «هل أنت متأكّد؟». فهو غالبًا سيوافقك فقط، حتى لو كان مصيبًا في المرة الأولى. لهذا تتحقّق من مصدر حقيقي بدل أن تطلب من الذكاء الاصطناعي أن يصحّح واجبه بنفسه. التحقّق من المعلومات قوة خارقة، ويمكنك أن تبدأ بها اليوم.

  • أشياء صغيرة للتسلية؟ لا تقلق. معلومات للمدرسة أو الصحة؟ تحقّق دائمًا
  • قارن مع مصدر يهتمّ بالحقيقة: الكتب والموسوعات والمواقع الموثوقة
  • لا تسأل الذكاء الاصطناعي «هل أنت متأكّد؟»، فهو غالبًا يوافقك فقط. تحقّق من مصدر حقيقي بدلًا من ذلك
  • أفضل مستخدمي الذكاء الاصطناعي ليسوا الأسرع في الكتابة، بل الأمهر في التحقّق