فهم حقيقة إنصاف (التعلم الآلي)

يشير الإنصاف (بالإنجليزية: Fairness) في التعلم الآلي (ML) إلى المحاولات المختلفة لتصحيح التحيز الخوارزمي في عمليات اتخاذ القرار الآلية القائمة على نماذج التعلم الآلي. يمكن اعتبار القرارات التي تتخذها مثل هذه النماذج بعد عملية التعلم غير عادلة إذا كانت تستند إلى متغيرات تعتبر حساسة (على سبيل المثال، الجنس، أو العرق، أو التوجه الجنسي، أو الإعاقة).

كما هو الحال مع العديد من المفاهيم الأخلاقية، فإن تعريفات العدالة والتحيز يمكن أن تكون مثيرة للجدل. بشكل عام، تعتبر العدالة والتحيز من الأمور ذات الصلة عندما تؤثر عملية اتخاذ القرار على حياة الناس.

وبما أن القرارات التي تتخذها الآلات قد تكون منحرفة بسبب مجموعة من العوامل، فقد تعتبر غير عادلة فيما يتصل بمجموعات أو أفراد معينين. ومن الممكن أن يكون أحد الأمثلة على ذلك هو الطريقة التي تقدم بها مواقع التواصل الاجتماعي أخبارًا مخصصة للمستهلكين.