مركز تعلّم الذكاء الاصطناعيEnglish
ترجمة عربية جديدة ✦ نراجعها باستمرار لتحسينها.

معلومات مضللة على نطاق هائل

⁧ما الذي يتغير حين يصبح صنع محتوى مقنع مجانيًا⁩⁧يختفي عائق واحد، فتقفز ثلاثة أشياء منفصلة في الوقت نفسه⁩⁧ما كان يحدّ من المحتوى المزيّف⁩⁧صنع شيء مقنع كان يحتاج وقتًا⁩⁧ومهارة وصبرًا وشخصًا مستعدًا⁩⁧لأن يجلس ويفعله فعلًا.⁩⁧ذلك الجهد كان المصفاة — وكان⁩⁧يقوم بمعظم العمل بصمت.⁩⁧ماذا فعل اختفاء العائق⁩⁧إنتاج شيء مقنع الآن⁩⁧لا يكلّف شيئًا تقريبًا للقطعة.⁩⁧لم تُستبدل المصفاة بأخرى⁩⁧أفضل. بل أُزيلت ببساطة، ولم يحلّ⁩⁧شيء مكانها.⁩⁧الكمية⁩⁧قبل⁩⁧حفنة من المزيّفات المقنعة⁩⁧كانت عمل يوم كامل.⁩⁧الآن وقد صار مجانيًا⁩⁧الحد هو سرعة نشرها،⁩⁧لا سرعة صنعها.⁩⁧التخصيص⁩⁧قبل⁩⁧رسالة واحدة، كُتبت مرة،⁩⁧وأُرسلت للجميع كما هي.⁩⁧الآن وقد صار مجانيًا⁩⁧نسخة مختلفة لكل شخص،⁩⁧مبنية على ما يُعرف عنه.⁩⁧السرعة⁩⁧قبل⁩⁧ساعات أو أيام بين حدث⁩⁧حقيقي وتزييف عنه.⁩⁧الآن وقد صار مجانيًا⁩⁧قد يصل المزيّف قبل أن⁩⁧تُنشر الرواية الحقيقية أصلًا.⁩⁧لذلك يجب أن يتغير شكل الدفاع أيضًا⁩⁧الدفاع القديم: اكشف المزيّف⁩⁧افحص كل ما تراه واحكم هل يبدو⁩⁧حقيقيًا. هذا ينفع ما دامت قليلة،⁩⁧وينهار لحظة تصبح أكثر⁩⁧مما يستطيع أي شخص فحصه.⁩⁧الدفاع الذي يتوسع: تحقّق من المصدر⁩⁧اسأل من أين جاء ومن غيرك ينقله.⁩⁧هذا يأخذ الجهد نفسه سواء كان⁩⁧واحدًا أو عشرة آلاف، لأنك تتحقق من⁩⁧المصدر مرة بدل كل نسخة.⁩⁧الكمية تهزم الفحص — لا تستطيع بنفسك فحص كل ما يصلك⁩⁧التحقق ممن يقف وراء الشيء يكلّف الشيء نفسه مهما كثرت نسخه⁩⁧إن كان المنشور أمامك هو المكان الوحيد للادعاء، فهذه هي النتيجة، لا الوصف المكتوب⁩
⁧حين يصبح صنع المزيّف مجانيًا، يتحوّل فحصه واحدًا واحدًا من دفاع إلى طابور⁩

تكلفة إنتاج الهراء أصبحت قريبة من الصفر

في الماضي، كان نشر كذبة على نطاق واسع يحتاج إلى جهد: كتابة وطباعة وتنسيق بين أشخاص. هذا الجهد كان يحدّ من الكمية. أدوات الذكاء الاصطناعي التوليدي (Generative AI) أزالته. يستطيع شخص واحد اليوم أن ينتج آلاف المقالات أو التعليقات أو التقييمات أو الحسابات، كل منها مكتوب بطريقة مختلفة بما يكفي ليبدو وكأنه من بشر مختلفين. أما التحقق من الحقائق فما زال يحتاج إلى شخص يعمل فعليًا لساعات أو أيام. وهنا جوهر المشكلة: فجوة هائلة بين تكلفة صناعة ادعاء كاذب وتكلفة تفنيده. لا يمكن لأي قدر من التحقق الفردي أن يسد فجوة بهذا الحجم، ولهذا يجب أن تتغير عاداتك أنت.

  • التوليد فوري وشبه مجاني، والتحقق بطيء ومكلف، وسيبقى كذلك دائمًا
  • الكمية مع التنويع تهزم العلامات القديمة، مثل النص المنسوخ نفسه في كل مكان
  • التقييمات المزيفة وأقسام التعليقات المزيفة والحركات الشعبية المزيفة صارت كلها أرخص من قبل
  • الدفاع الواقعي يبدأ مبكرًا: اختر مصادرك بعناية بدلًا من محاولة تفنيد كل شيء

إجماع مصطنع

أنت تحكم على مدى انتشار رأي ما جزئيًا من خلال عدد الأشخاص الذين يبدو أنهم يتبنونه. هذه الغريزة منطقية، لكنها أصبحت قابلة للاستغلال. إذا نشر ألف حساب صيغًا مختلفة من الرأي نفسه، فسيبدو الأمر قناعة واسعة حتى لو كان شخص واحد هو من ولّدها كلها. يمكن لهذا أن يجعل موقفًا هامشيًا يبدو سائدًا، أو يجعل موقفًا سائدًا يبدو هامشيًا، أو يخلق انطباعًا بأن الجميع غاضبون من شيء لم يسمع به أحد تقريبًا. الاتفاق الظاهر في قسم التعليقات أو سلسلة الردود من أضعف الإشارات الممكنة على ما يفكر فيه الناس فعلًا، وأصبح تصنيعه سهلًا جدًا.

  • كثرة الموافقين على الإنترنت ليست دليلًا على مدى انتشار الرأي فعلًا
  • النشاط المنسق غير الأصيل مصمم ليبدو طبيعيًا، وينجح في ذلك غالبًا
  • افحص الحسابات: عمرها، وتاريخها، وهل تنشر كأشخاص لديهم حياة حقيقية
  • اسأل: هل لهذا الغضب الصاخب وجود خارج هذه المنصة الواحدة؟

العاطفة هي وسيلة التوصيل

المحتوى الذي يغضبك أو يخيفك أو يثير سخطك الأخلاقي ينتشر أبعد وأسرع من المحتوى الذي يمنحك معلومة، لأنك تشاركه قبل أن تقيّمه. ومن ينتج المعلومات المضللة (Misinformation) يعرف هذا ويكتب على أساسه عمدًا، والذكاء الاصطناعي يجعل من الرخيص توليد خمسين نسخة عاطفية والإبقاء على أنجحها. لذلك فأهم إنذار داخلي لديك لا يتعلق بالحقائق أصلًا، بل بجسدك أنت. حين يدفعك شيء إلى إعادة نشره فورًا، فهذه الرغبة نفسها هي الإشارة. وهي تعني غالبًا أن المحتوى صُمّم لكي يثيرها. الانتظار عشر دقائق قبل المشاركة يحميك من معظم هذا النوع كله.

  • الغضب والخوف يتفوقان على الدقة في كل مقاييس المشاركة
  • ردة فعلك العاطفية القوية غالبًا هي المنتَج نفسه، لا أثرًا جانبيًا
  • قاعدة الدقائق العشر: إن أردت مشاركة شيء فورًا، فانتظر ثم قرر
  • المحتوى المصمم ليشعرك بأنك أفضل من مجموعة ما يستحق شكًا إضافيًا