مركز تعلّم الذكاء الاصطناعيEnglish
ترجمة عربية جديدة ✦ نراجعها باستمرار لتحسينها.

التحيز: أين يظهر فعلًا

⁧أين يظهر التحيّز فعلًا في الأدوات التي تستخدمها⁩⁧أربعة مظاهر مختلفة جدًا، وسبب جذري واحد وراءها كلها⁩⁧السبب الجذري: من وما الذي بالغت أمثلة التدريب في تمثيله أو أهملته⁩⁧النموذج يكرر نمط أمثلته، بما فيها من ثغرات⁩⁧البحث والخلاصات⁩⁧ما يظهر أولًا هو⁩⁧ما نقر عليه أمثالك⁩⁧من قبل. وآراء كاملة تختفي.⁩⁧من أين يأتي⁩⁧تعلّمه من نقرات⁩⁧من كانوا هناك أصلًا⁩⁧توليد الصور⁩⁧اطلب «طبيبًا» فيظهر⁩⁧نوع واحد من الوجوه مرارًا⁩⁧كخيار افتراضي غير معلن.⁩⁧من أين يأتي⁩⁧تعلّمه من أوصاف صور⁩⁧مالت بشدة إلى جهة واحدة⁩⁧التصحيح التلقائي والنص⁩⁧الأسماء واللهجات والعامية⁩⁧من خارج بيانات التدريب⁩⁧«تُصحَّح» إلى كلمات أخرى.⁩⁧من أين يأتي⁩⁧تعلّمه من شريحة ضيقة⁩⁧من طرق كتابة الناس⁩⁧التقييم والفرز⁩⁧دُرّب على قرارات سابقة،⁩⁧فيكرر من كان يُختار⁩⁧ومن لم يكن يُختار.⁩⁧من أين يأتي⁩⁧تعلّمه من قرارات⁩⁧لم تكن محايدة أصلًا⁩⁧لم يكتب أحد قاعدة تقول «كن ظالمًا» — النظام تعلّم نمطًا كان موجودًا أصلًا⁩⁧ما الذي تستطيع فعله حين تصادفه⁩⁧لاحظ الخيار الافتراضي⁩⁧حين يتكرر النوع نفسه⁩⁧من الإجابات⁩⁧اسأل: من الغائب؟⁩⁧من لم تصل أمثلته⁩⁧إلى بيانات التدريب⁩⁧غيّر طلبك⁩⁧وضّح ما تريده⁩⁧بدل قبول الافتراضي⁩⁧لا تدعه يقرّر أبدًا⁩⁧الحكم على شخص⁩⁧يحتاج إنسانًا يشارك فيه⁩⁧إن لم تعرف من كان في الأمثلة، فلن تعرف لمن صُمّمت النتيجة⁩
⁧التحيّز ليس إعدادًا شغّله أحد — بل أمثلة التدريب تظهر في النتيجة⁩

التحيز موروث، لا مُخترَع

أنظمة الذكاء الاصطناعي (AI) تتعلم الأنماط من بيانات أنتجها أشخاص ومؤسسات، وهذه الأنماط تتضمن ظلمًا تاريخيًا. النموذج لا يقرر أن يكون متحيزًا، بل يعيد إنتاج ما كان شائعًا إحصائيًا فيما قرأه. إذا كانت وظيفة ما يشغلها تاريخيًا أفراد من فئة واحدة في الغالب، فإن النموذج يتعلم هذا الارتباط ويعيد إنتاجه في النصوص والصور ما لم يصححه شيء. وإذا طُوّر نظام لتحليل الوجوه واختُبر في الغالب على أنواع معينة من الوجوه، فإن أداءه يكون أسوأ مع غيرها. وإذا دُرّب نظام الإشراف على المحتوى في الغالب على لهجة واحدة من الإنجليزية، فإنه سيسيء الحكم على اللهجات الأخرى. الآلية نفسها في كل الحالات.

  • بيانات التدريب (Training Data) تعكس العالم بما فيه من عدم مساواة، والنموذج يختزل ذلك كله
  • لا يلزم أن يقصد أحد التحيز (Bias) لكي ينتجه النظام
  • ضعف تمثيل فئة ما في بيانات التدريب والاختبار يصبح أداءً أسوأ مع هذه الفئة
  • الحجم هو ما يجعل الأمر خطيرًا: قرار متحيز واحد يتكرر بسرعة الآلة

أين ستصادفه فعلًا

ليس في أمثلة نظرية. جرّب أن تطلب من مولّد صور صورًا لأشخاص في مهن مختلفة، وانظر من يظهر. لاحظ أي اللهجات يتعامل معها المساعد الصوتي والترجمة النصية التلقائية بشكل جيد. لاحظ منشورات من يرصدها نظام الإشراف الآلي كمخالفات، وعامية من تُفهم على أنها مخالفة. لاحظ أي اللغات تكتب بها أداة الكتابة بالذكاء الاصطناعي بطلاقة، وأيها تشوهها. وحين تبدأ في التقدم إلى الوظائف، اعلم أن الفرز الآلي للطلبات شائع، وأنه يتعلم من قرارات التوظيف السابقة، بما فيها الأنماط التي لن يدافع عنها أحد بصوت عالٍ لو سألته مباشرة.

  • مولّدات الصور تكشف افتراضاتها عن المهن والفئات فورًا، فجرّب بنفسك
  • جودة التعرف على الكلام والترجمة النصية تختلف كثيرًا حسب اللكنة واللهجة
  • الإشراف الآلي يسيء فهم العامية واللهجات والتعابير التي تستعيدها مجموعات لنفسها
  • أنظمة فرز الطلبات تتعلم من القرارات السابقة، بما فيها المتحيزة

ما الذي يمكن فعله حقًا

لا يمكن حل مشكلة التحيز بالكامل، ويعود ذلك جزئيًا إلى أن التعريفات المنطقية المختلفة للعدالة تتعارض رياضيًا فيما بينها، فعليك أن تختار أيها تسعى إلى تحقيقه، وهذا قرار يتعلق بالقيم لا بالتقنية. لكن الممكن كثير: بيانات تدريب أوسع وأفضل توثيقًا، واختبار الأداء لكل فئة على حدة بدلًا من إعلان متوسط واحد، ومراجعة بشرية للقرارات المهمة، وطريق للاعتراض. وأهم عادة لك شخصيًا هي الملاحظة. الأنظمة تُصلَح حين يلاحظ الناس ويتكلمون، وقدرتك على وصف المشكلة بدقة تجعلك أكثر تأثيرًا بكثير من مجرد الشعور بانزعاج غامض.

  • تعريفات العدالة المختلفة تتعارض رياضيًا، وهناك دائمًا من يختار بينها
  • رقم دقة إجمالي واحد يخفي إخفاقات تتركز في فئات بعينها
  • القرارات الآلية المهمة تحتاج إلى مراجعة بشرية وطريق حقيقي للاعتراض
  • تسمية المشكلة بدقة هي ما يؤدي إلى إصلاحها، أما الشكاوى الغامضة فلا

جرّب بنفسك

لست مضطرًا إلى أن تصدّق أيًا من هذا بالثقة وحدها. ست مهن وتعليمات واحدة تكفي لكشف النمط الموروث، والافتراضات تظهر أسرع مما يتوقع معظم الناس.

◆ جرّبها بنفسك

اطلب من أي أداة محادثة بالذكاء الاصطناعي (AI) أن تصف شخصًا يعمل في كل مهنة من ست مهن. استخدم القائمة أدناه، لكن استبدل اثنتين منها بمهنتين تعنيان لك شيئًا: واحدة يعمل بها أحد أفراد عائلتك، وواحدة قد ترغب فيها. لا تذكر شيئًا عن الجنس أو العمر أو الخلفية، ثم اقرأ ما افترضته الأداة نيابة عنك.

اكتب جملة واحدة تصف شخصًا يعمل في كل مجال من هذه المجالات، وأعطِ كل شخص اسمًا ووصفًا قصيرًا لمظهره: الجراحة، التمريض، إدارة شركة كبرى، التنظيف، هندسة البرمجيات، التدريس في المرحلة الابتدائية.
كيف تعرف أنها نجحت
  • مهنة واحدة على الأقل جاءت بجنس لم تطلبه أبدًا
  • النمط في المهن الست يتطابق مع من شغلوا هذه المهن تاريخيًا
  • تستطيع أن تصف المشكلة بدقة، أي مهنة وأي افتراض، بدلًا من مجرد قول «كانت متحيزة»