مركز تعلّم الذكاء الاصطناعيEnglish
ترجمة عربية جديدة ✦ نراجعها باستمرار لتحسينها.

الإقراض العادل والتمييز عبر المتغيرات البديلة

⁧النموذج لا يراها — ومع ذلك يعيد بناءها⁩⁧النموذج الذي لديه ما يكفي من الميزات المترابطة يعيد بناء سمة لم يزوّده بها أحد، ولم يختر أحد ذلك⁩⁧مستبعدة من المدخلات⁩ ⁧العرق · الإثنية · الجنس⁩ ⁧الرمز البريدي والموقع الجغرافي⁩ ⁧جهة العمل⁩ ⁧المؤسسة التعليمية⁩ ⁧فئة المهنة⁩ ⁧القناة والجهاز⁩ ⁧لغة الطلب⁩ ⁧أنماط التجّار والمعاملات⁩ ⁧بيانات بديلة لذوي السجل الائتماني المحدود⁩ ⁧النموذج⁩ ⁧محايد ظاهرياً⁩ ⁧نتائج أسوأ بشكل جوهري⁩ ⁧لفئة محمية⁩⁧أُعيد بناؤها دون أن يختار ذلك أحد — مجموعات الميزات الأغنى تزيد قدرة البدائل⁩ ⁧المشكلة الأدق هي الهدف المُصنَّف⁩⁧يتعلم نموذج الائتمان من نتائج لوحظت فقط على⁩⁧متقدمين وافقت عليهم السياسة السابقة — فتُدمج القرارات⁩⁧التاريخية في الهدف الذي يُدرَّب النموذج الجديد⁩⁧على تكراره؛ واستنتاج المرفوضين يقدّر النتيجة⁩⁧غير الملاحَظة، وهو تقدير لا علاج⁩ ⁧اختبار تفاوت النتائج⁩⁧لا يمكنك اختبار ما لا تقيسه — بعض سياقات الرهن العقاري⁩⁧الأمريكية تشترط جمع البيانات الديموغرافية للمتقدمين بينما⁩⁧تقيّد أنظمة أخرى جمعها أو استنتاجها أصلاً⁩⁧تقدير الانتماء للفئة ينقل الخطأ إلى النتيجة⁩⁧اختبر أيضاً التسعير والحدود والشروط والتجاوزات ومعدلات الخطأ⁩ ⁧حين يظهر تفاوت في الإقراض الأمريكي — ما يسأله بعد ذلك إطار ECOA وقانون Fair Housing Act⁩ ⁧هل توجد حاجة تجارية مشروعة وجوهرية؟⁩ ⁧هل يوجد بديل أقل تمييزاً يلبّيها؟⁩ ⁧سجلّ البحث والخيارات المستبعدة⁩ ⁧مقاييس الإنصاف تتعارض رياضياً، فالاختيار بينها قرار سياسة على مستوى رفيع · ومعايير اختبار مكوّنات النماذج اللغوية الكبيرة في سلسلة القرار غير مستقرة⁩ ⁧«النموذج لا يرى العرق» عبارة عن المدخلات — والقانون يسأل عن النتائج⁩ ⁧في الإقراض الأمريكي، قد يكفي الأثر التمييزي لدعم الطعن دون أي إثبات للنية⁩
⁧التعرّض لمخاطر الإقراض العادل يقوم على النتائج، لذا فاستبعاد المتغيّر ليس دفاعاً بحد ذاته.⁩

حذف المتغير لا يحذف أثره

«النموذج لا يرى العِرق» عبارة عن المدخلات، بينما يُعنى قانون الإقراض العادل (Fair lending) في الغالب بالنتائج. ففي الإقراض الأمريكي، يدعم قانون تكافؤ فرص الائتمان (ECOA) وقانون الإسكان العادل (Fair Housing Act) الطعون المبنية على الأثر التمييزي لا على القصد وحده، لذا فإن نموذجًا محايدًا في ظاهره ينتج نتائج أسوأ بشكل جوهري لفئة محمية يبقى معرّضًا للمساءلة بصرف النظر عما أُدخل إليه. وتصل ولايات قضائية أخرى إلى مناطق مماثلة عبر قوانين المساواة وحماية المستهلك. والآلية هي المتغيرات البديلة (Proxies): فالنموذج الذي يملك ما يكفي من الخصائص المترابطة يستطيع إعادة بناء سمة لم تُعطَ له قط، ويفعل ذلك دون أن يختار أحد ذلك. وزيادة الخصائص وثراء البيانات يرفعان القدرة على بناء متغيرات بديلة بدلًا من خفضها.

  • التعرّض في الإقراض العادل يقوم على النتائج، لذا فإن استبعاد المتغير ليس دفاعًا في حد ذاته
  • في الإقراض الأمريكي، قد يدعم الأثرُ التمييزي طعنًا دون أي إثبات للقصد
  • الخصائص المترابطة تتيح للنموذج إعادة بناء سمة لم يزوّده بها أحد
  • مجموعات الخصائص الأغنى تزيد القدرة على بناء متغيرات بديلة — المزيد من البيانات ليس أعدل تلقائيًا

من أين تأتي المتغيرات البديلة فعلًا

المشتبه بهم المعتادون هم الموقع الجغرافي والرمز البريدي، اللذان يرمّزان في كثير من البلدان الفصل السكني مباشرة. ثم المؤسسة التعليمية، وجهة العمل، وفئة المهنة، وقناة التقديم والجهاز المستخدم، ولغة الطلب، وأنماط المعاملات أو التجار التي تختلف بشكل منهجي بين المجتمعات. والبيانات البديلة التي تُجلب لخدمة المتقدمين ذوي السجلات الائتمانية المحدودة قد تخدم الشمول الحقيقي، وقد تستورد في الوقت نفسه متغيرات بديلة جديدة. والمشكلة الأدق هي الهدف المُصنَّف (Label). فنموذج الائتمان يتعلم من نتائج لا تُرصد إلا على المتقدمين الذين وُوفق عليهم وفق السياسة السابقة، فتُدمج القرارات التاريخية في الهدف الذي يُدرَّب النموذج الجديد على إعادة إنتاجه. ويحاول استنتاج المرفوضين (Reject inference) تصحيح ذلك، لكن ما ينتجه تقدير لنتيجة لم تُرصد، لا علاج لها.

  • الرمز البريدي وجهة العمل والتعليم والجهاز والقناة وأنماط التجار هي الحوامل الشائعة للمتغيرات البديلة
  • البيانات البديلة قد توسّع الوصول وتستورد متغيرات بديلة جديدة في الخطوة نفسها
  • الهدف المُصنَّف في التدريب يعكس من وُوفق عليهم سابقًا، فيرث النموذج الجديد السياسة القديمة
  • استنتاج المرفوضين يعالج جزئيًا مشكلة النتائج غير المرصودة؛ ولا يزيلها

اختبار تفاوت النتائج

لا يمكنك اختبار ما لا تقيسه، وهنا يشدّ القانون في اتجاهين. فبعض سياقات الرهن العقاري في الولايات المتحدة تتطلب جمع المعلومات الديموغرافية للمتقدمين؛ بينما تقيّد قواعد حماية البيانات في عدة ولايات قضائية أخرى جمع تلك السمات نفسها أو استنتاجها، مما يترك المؤسسات تحاول اختبار العدالة دون البيانات التي تجعل الاختبار ممكنًا. والأساليب الإحصائية التقريبية (Proxy methods) المستخدمة لتقدير الانتماء إلى الفئات هي نفسها تقديرات تحمل خطأها الخاص، وينتقل هذا الخطأ إلى نتيجة الاختبار. وأيًّا كان النهج، اختبر أكثر من معدلات الموافقة: افحص التسعير، والحدود الممنوحة، والشروط المعروضة، وأنماط التجاوز، ومعدلات الخطأ حسب الفئة، ووثّق المنهجية لكي ترى الجهة الرقابية ما فعلته وما لم تستطع فعله.

  • يتطلب الاختبار بيانات ديموغرافية تفرضها بعض الأنظمة وتقيّدها أخرى — حدّد أيها ينطبق عليك
  • الانتماء المقدَّر إلى الفئات يحمل خطأً ينتقل مباشرة إلى نتيجة العدالة
  • اختبر الموافقات والتسعير والحدود والشروط والتجاوزات ومعدلات الخطأ — لا معدلات الموافقة وحدها
  • وثّق المنهجية وحدودها؛ فالاختبار غير الموثّق ليس دليلًا أمام الجهة الرقابية

سؤال البديل الأقل تمييزًا، والحدود الصادقة

حين يظهر تفاوت في الإقراض الأمريكي، يعمل إطار قانون تكافؤ فرص الائتمان (ECOA) وقانون الإسكان العادل (Fair Housing Act) وفق بنية تنقل عبء الإثبات: هل تخدم الممارسة حاجة تجارية مشروعة وجوهرية، وهل يوجد بديل أقل تمييزًا يلبّي تلك الحاجة بصورة مماثلة. فما يطلبه الإطار إذن هو البحث عن مثل هذا البديل وسجلٌّ لذلك البحث، يشمل الخيارات التي دُرست وسبب استبعاد كلٍّ منها. وتصل ولايات قضائية أخرى إلى أسئلة ذات صلة عبر قوانين المساواة والمستهلك. ويجب أن يرافق ذلك كله تحفّظان. فمقاييس العدالة تتعارض رياضيًا، فلا يوجد نموذج يستوفي كل تعريف معقول في آن واحد، واختيار المقياس قرار سياسات يُسجَّل على مستوى قيادي رفيع. والممارسة المتعلقة بمكوّنات النماذج اللغوية داخل سلسلة القرار لم تستقر بعد فعلًا.

  • في الإقراض الأمريكي، تسأل بنية ECOA وقانون الإسكان العادل عن الضرورة التجارية وعن البدائل الأقل تمييزًا
  • ما يطلبه ذلك الإطار هو البحث وسجلّه، بما في ذلك الخيارات المستبعدة وأسباب استبعادها
  • تعريفات العدالة تتعارض رياضيًا؛ والاختيار بينها قرار سياسات قيادي، لا قرار تقني
  • معايير اختبار مكوّنات النماذج اللغوية الكبيرة داخل سلسلة القرار غير مستقرة — قل ذلك بدلًا من الإيحاء بالصرامة