مركز تعلّم الذكاء الاصطناعيEnglish
ترجمة عربية جديدة ✦ نراجعها باستمرار لتحسينها.

الوسائط المصطنعة: لم تعد الرؤية دليلًا كافيًا

⁧الأنواع الأربعة من التزييف التي ستصادفها فعلًا⁩⁧لكل نوع استخدام مفيد وإساءة مقابلة — والتقنية لا تختار بينهما⁩⁧مولَّد بالكامل⁩⁧مشهد لم يوجد قط،⁩⁧صُنع من وصف مكتوب.⁩⁧استخدام مشروع⁩⁧رسوم توضيحية وفنية،⁩⁧نكات، لوحات قصة، نماذج.⁩⁧كيف يُساء استخدامه⁩⁧«صور» مختلقة لأحداث⁩⁧لم تحدث أبدًا.⁩⁧تبديل الوجه⁩⁧لقطات حقيقية رُكّب عليها⁩⁧وجه شخص آخر.⁩⁧استخدام مشروع⁩⁧مؤثرات أفلام، دبلجة،⁩⁧وسخرية وافق عليها أصحابها.⁩⁧كيف يُساء استخدامه⁩⁧وضع زميل في الصف⁩⁧في شيء لم يفعله قط.⁩⁧استنساخ الصوت⁩⁧نسخة من صوت حقيقي،⁩⁧تقول كلامًا جديدًا تمامًا.⁩⁧استخدام مشروع⁩⁧التعليق الصوتي، تسهيل الوصول،⁩⁧وإعادة صوت مفقود.⁩⁧كيف يُساء استخدامه⁩⁧مكالمات احتيال — «هذا أنا،⁩⁧أنا في ورطة، أرسل الآن».⁩⁧حقيقي، خارج سياقه⁩⁧لقطات حقيقية نُسبت⁩⁧إلى حدث مختلف.⁩⁧استخدام مشروع⁩⁧مقاطع أرشيفية مع وصف⁩⁧ومصدر وتاريخ واضح.⁩⁧كيف يُساء استخدامه⁩⁧مقطع قديم أعيد نشره⁩⁧على أنه أزمة اليوم.⁩⁧النصيحة القديمة — عُدّ الأصابع، افحص الأسنان — لم تعد تنفع طويلًا⁩⁧أدوات التوليد تتحسن باستمرار، فالعلامات البصرية التي نفعت العام الماضي تتوقف بصمت⁩⁧ما يبقى صالحًا بعد اختفاء العلامات البصرية⁩⁧تتبّع مصدره⁩⁧أين ظهر هذا الملف أولًا،⁩⁧ومن نشره هناك؟ هل معه⁩⁧سجل تصوير أو تعديل؟⁩⁧تحقّق من الحدث نفسه⁩⁧إن حدث فعلًا، فستجد⁩⁧وسائل إعلام وزوايا أخرى.⁩⁧حساب واحد ليس مصدرًا.⁩⁧تمهّل قبل إعادة النشر⁩⁧ما صُنع ليغضبك بسرعة⁩⁧صُنع لكي يُنشر⁩⁧قبل أن يتحقق منه أحد.⁩⁧تتبّع المصدر والمقارنة أفضل من الفحص بالعين، ويبقيان صالحين مع تحسّن التزييف⁩⁧السؤال ليس «هل يبدو حقيقيًا» بل «من أين جاء، ومن غيري لديه»⁩⁧عدم اليقين هو الموقف الصحيح — قل ذلك، بدل أن تمرّره مع تخمين⁩
⁧كشف المزيّف بالعين مهارة تنتهي صلاحيتها بسرعة — أما تتبّع مصدر الملف فلا⁩

ما الذي يمكن تزييفه اليوم

صور واقعية تمامًا لأحداث لم تقع قط. فيديو لشخص حقيقي يقول كلامًا لم يقله أبدًا. صوت مستنسخ من عيّنة قصيرة، مقنع إلى درجة أنه يخدع من يعرفون صاحبه. نصوص بأسلوب كتابة أي شخص تريده. لا شيء من هذا يحتاج اليوم إلى استوديو أو خبير متخصص، فالكثير منه يعمل من هاتف. والتحول المهم ليس أن التزييف موجود، فالتلاعب بالصور قديم قِدَم التصوير نفسه. التحول هو أن صناعة تزييف مقنع انتقلت من شيء مكلف وبطيء إلى شيء رخيص وفوري، وهذا يغيّر من يستطيع فعله، وكم سيكون عدد المزيّفات.

  • توليد الصور والفيديو والصوت والنصوص بالذكاء الاصطناعي (AI) متاح للجميع اليوم، ولم يعد أدوات للمتخصصين فقط
  • استنساخ الصوت (Voice Cloning) يحتاج إلى تسجيل قصير بشكل مفاجئ، وصوتك منتشر في كل مكان على الإنترنت
  • التغيير الحقيقي في التكلفة والسرعة، وهذا يغيّر حجم المزيّفات ونوع الأشخاص الذين يصنعونها
  • افترض أن أي مادة منفردة قد تكون مصطنعة (Synthetic) إلى أن يدعمها شيء آخر

لماذا تنتهي صلاحية نصائح «اكتشف المزيّف» باستمرار

ربما قيل لك أن تعدّ الأصابع، أو تبحث عن أسنان غريبة، أو تتأكد هل ترمش العينان. كل علامة من هذه العلامات أُصلحت في الأنظمة الأحدث، وأي علامة جديدة تتعلمها ستُصلَح أيضًا، لأن أدوات التوليد تُدرَّب تحديدًا على إزالة العيوب التي يلاحظها الناس. الفحص بالعين سباق خاسر. توجد بعض أدوات الكشف، وبدأ اعتماد معايير بيانات المصدر (Provenance) التي ترفق بالملف معلومات موقّعة عن طريقة صنعه، لكن لا هذه ولا تلك موثوقة بما يكفي لتعتمد عليها. المهارة التي تدوم ليست اكتشاف العيوب، بل السؤال: من أين جاءت هذه المادة؟

  • أي علامة بصرية تتعلمها عمرها قصير، وهذا مقصود
  • أدوات الكشف غير ثابتة، وتخطئ في الاتجاهين: تتهم الحقيقي وتبرّئ المزيّف
  • بيانات المصدر واعدة لكنها ليست منتشرة في كل مكان بعد، ويمكن أن تُمحى بإعادة رفع الملف
  • المصدر والتأكيد من جهات مستقلة يصمدان أطول من كل حيل اكتشاف العيوب

مكسب الكاذب

هناك أثر غير مباشر أهم من أي مقطع مزيّف بعينه. حين يعرف الجميع أن الفيديو يمكن فبركته، يستطيع أي شخص يُضبط في فيديو حقيقي أن يدّعي ببساطة أنه مصنوع بالذكاء الاصطناعي (AI)، وسيصدّقه عدد لا بأس به من الناس. يصبح الدليل الحقيقي قابلًا للإنكار. وهذا يعمل في الاتجاهين في حياتك أنت: قد يُستخدم مقطع مفبرك ضدك، وقد يُرفض مقطع حقيقي بحجة أنه مزيّف. والحل ليس أن تكذّب كل شيء، فهذا يجعلك أسهل في التلاعب من اتجاه آخر. الحل أن تنقل اهتمامك من سؤال «هل يبدو حقيقيًا؟» إلى سؤال «من نشره، وهل يدعمه أي مصدر مستقل؟».

  • انتشار المزيّفات يسمح للناس بأن يرفضوا الأدلة الحقيقية بحجة أنها مزيّفة
  • التشكيك في كل شيء ليس تفكيرًا نقديًا، بل يجعلك عرضة للتلاعب ممن يرفع صوته أكثر
  • أعطِ الوزن للمصدر وللتأكيد المستقل، لا لمظهر الملف
  • اسأل: من المستفيد إن صدّقت هذا؟ ومن المستفيد إن رفضته؟