العدل مع الذكاء الاصطناعي
الذكاء الاصطناعي قد يكون منحازًا، وهذا هو السبب
الذكاء الاصطناعي (AI) يتعلّم من بيانات صنعها البشر. والبشر ليسوا عادلين دائمًا. لذلك قد يلتقط الذكاء الاصطناعي أحيانًا أنماطًا غير عادلة من البيانات ويكرّرها. هذا اسمه التحيّز (Bias)، وإصلاحه من أهمّ التحدّيات في عالم الذكاء الاصطناعي.
- إذا كانت معظم صور الأطباء في بيانات التدريب لرجال، فقد يظنّ الذكاء الاصطناعي أن الأطباء كلهم رجال
- وهذا قد يسبّب ضررًا حقيقيًا: رفض الناس في الوظائف ظلمًا، أو تشخيصات طبية خاطئة
- إصلاحه يحتاج إلى بيانات متنوّعة، واختبار دقيق، ومراجعة من البشر
- الأشخاص الذين يهتمّون بالعدل ويفهمون الذكاء الاصطناعي معًا لهم قيمة كبيرة جدًا
حَكَم مسابقة الكلاب الذي لم يرَ إلا نوعًا واحدًا
إليك قصة تُظهر كيف يتسلّل الظلم. تخيّل روبوتًا حَكَمًا في مسابقة كلاب، دُرّب على التعرّف على الكلاب، لكن كل صورة تدريب كانت لكلب من نوع «غولدن ريتريفر». الآن يدخل كلب «شيواوا» صغير. يقول الروبوت: «هذا ليس كلبًا.» ثم كلب «بودل»؟ «ليس كلبًا.» الروبوت ليس شرّيرًا. ولم يكتب أحد له: «الغولدن ريتريفر فقط هو الكلب.» الظلم تسلّل من خلال ما كان ناقصًا في الأمثلة. وهكذا يحدث التحيّز (Bias) في الذكاء الاصطناعي الحقيقي غالبًا: ليس بسبب شخص شرّير، بل بسبب بيانات غير متوازنة. ويصبح الأمر خطيرًا عندما تكون «مسابقة الكلاب» في الحقيقة الموافقة على القروض، أو التعرّف على الوجوه، أو صور الأشعة الطبية. والإصلاح يبدأ بسؤال واحد: من الغائب عن الأمثلة؟
- التحيّز يتسلّل غالبًا من الأمثلة الناقصة، لا من النوايا السيئة
- الذكاء الاصطناعي لا يستطيع أن يكون عادلًا مع كلاب، أو أشخاص، لم يرهم أبدًا
- سؤال رائع تطرحه عن أيّ ذكاء اصطناعي: «من كان غائبًا عن تدريبه؟»
- أمثلة متنوّعة + اختبار دقيق + مراجعة من البشر = ذكاء اصطناعي أكثر عدلًا