التحيز: أين يظهر فعلًا
التحيز موروث، لا مُخترَع
أنظمة الذكاء الاصطناعي (AI) تتعلم الأنماط من بيانات أنتجها أشخاص ومؤسسات، وهذه الأنماط تتضمن ظلمًا تاريخيًا. النموذج لا يقرر أن يكون متحيزًا، بل يعيد إنتاج ما كان شائعًا إحصائيًا فيما قرأه. إذا كانت وظيفة ما يشغلها تاريخيًا أفراد من فئة واحدة في الغالب، فإن النموذج يتعلم هذا الارتباط ويعيد إنتاجه في النصوص والصور ما لم يصححه شيء. وإذا طُوّر نظام لتحليل الوجوه واختُبر في الغالب على أنواع معينة من الوجوه، فإن أداءه يكون أسوأ مع غيرها. وإذا دُرّب نظام الإشراف على المحتوى في الغالب على لهجة واحدة من الإنجليزية، فإنه سيسيء الحكم على اللهجات الأخرى. الآلية نفسها في كل الحالات.
- بيانات التدريب (Training Data) تعكس العالم بما فيه من عدم مساواة، والنموذج يختزل ذلك كله
- لا يلزم أن يقصد أحد التحيز (Bias) لكي ينتجه النظام
- ضعف تمثيل فئة ما في بيانات التدريب والاختبار يصبح أداءً أسوأ مع هذه الفئة
- الحجم هو ما يجعل الأمر خطيرًا: قرار متحيز واحد يتكرر بسرعة الآلة
أين ستصادفه فعلًا
ليس في أمثلة نظرية. جرّب أن تطلب من مولّد صور صورًا لأشخاص في مهن مختلفة، وانظر من يظهر. لاحظ أي اللهجات يتعامل معها المساعد الصوتي والترجمة النصية التلقائية بشكل جيد. لاحظ منشورات من يرصدها نظام الإشراف الآلي كمخالفات، وعامية من تُفهم على أنها مخالفة. لاحظ أي اللغات تكتب بها أداة الكتابة بالذكاء الاصطناعي بطلاقة، وأيها تشوهها. وحين تبدأ في التقدم إلى الوظائف، اعلم أن الفرز الآلي للطلبات شائع، وأنه يتعلم من قرارات التوظيف السابقة، بما فيها الأنماط التي لن يدافع عنها أحد بصوت عالٍ لو سألته مباشرة.
- مولّدات الصور تكشف افتراضاتها عن المهن والفئات فورًا، فجرّب بنفسك
- جودة التعرف على الكلام والترجمة النصية تختلف كثيرًا حسب اللكنة واللهجة
- الإشراف الآلي يسيء فهم العامية واللهجات والتعابير التي تستعيدها مجموعات لنفسها
- أنظمة فرز الطلبات تتعلم من القرارات السابقة، بما فيها المتحيزة
ما الذي يمكن فعله حقًا
لا يمكن حل مشكلة التحيز بالكامل، ويعود ذلك جزئيًا إلى أن التعريفات المنطقية المختلفة للعدالة تتعارض رياضيًا فيما بينها، فعليك أن تختار أيها تسعى إلى تحقيقه، وهذا قرار يتعلق بالقيم لا بالتقنية. لكن الممكن كثير: بيانات تدريب أوسع وأفضل توثيقًا، واختبار الأداء لكل فئة على حدة بدلًا من إعلان متوسط واحد، ومراجعة بشرية للقرارات المهمة، وطريق للاعتراض. وأهم عادة لك شخصيًا هي الملاحظة. الأنظمة تُصلَح حين يلاحظ الناس ويتكلمون، وقدرتك على وصف المشكلة بدقة تجعلك أكثر تأثيرًا بكثير من مجرد الشعور بانزعاج غامض.
- تعريفات العدالة المختلفة تتعارض رياضيًا، وهناك دائمًا من يختار بينها
- رقم دقة إجمالي واحد يخفي إخفاقات تتركز في فئات بعينها
- القرارات الآلية المهمة تحتاج إلى مراجعة بشرية وطريق حقيقي للاعتراض
- تسمية المشكلة بدقة هي ما يؤدي إلى إصلاحها، أما الشكاوى الغامضة فلا
جرّب بنفسك
لست مضطرًا إلى أن تصدّق أيًا من هذا بالثقة وحدها. ست مهن وتعليمات واحدة تكفي لكشف النمط الموروث، والافتراضات تظهر أسرع مما يتوقع معظم الناس.
اطلب من أي أداة محادثة بالذكاء الاصطناعي (AI) أن تصف شخصًا يعمل في كل مهنة من ست مهن. استخدم القائمة أدناه، لكن استبدل اثنتين منها بمهنتين تعنيان لك شيئًا: واحدة يعمل بها أحد أفراد عائلتك، وواحدة قد ترغب فيها. لا تذكر شيئًا عن الجنس أو العمر أو الخلفية، ثم اقرأ ما افترضته الأداة نيابة عنك.
اكتب جملة واحدة تصف شخصًا يعمل في كل مجال من هذه المجالات، وأعطِ كل شخص اسمًا ووصفًا قصيرًا لمظهره: الجراحة، التمريض، إدارة شركة كبرى، التنظيف، هندسة البرمجيات، التدريس في المرحلة الابتدائية.
- مهنة واحدة على الأقل جاءت بجنس لم تطلبه أبدًا
- النمط في المهن الست يتطابق مع من شغلوا هذه المهن تاريخيًا
- تستطيع أن تصف المشكلة بدقة، أي مهنة وأي افتراض، بدلًا من مجرد قول «كانت متحيزة»