Product Design, Manufacturing & Innovation Resources
بيت » نظرية استحالة العدالة (التعلم الآلي)

نظرية استحالة العدالة (التعلم الآلي)

2016
  • Jon Kleinberg
  • Sendhil Mullainathan
  • Manish Raghavan
فريق من علماء البيانات يحلل مقاييس الإنصاف في التعلم الآلي.

(صورة تم إنشاؤها للتوضيح فقط)

In fair machine learning, impossibility theorems demonstrate that it is mathematically impossible for an algorithm to satisfy multiple, seemingly intuitive fairness criteria simultaneously, except in trivial cases. For example, an algorithm cannot generally satisfy both demographic parity (equal positive rates across groups) and equalized odds (equal true positive and false positive rates across groups) if the base rates differ between groups.

تُبرز نظرية استحالة العدالة توترًا جوهريًا في تعريف العدالة وتحقيقها، وينبع هذا التوتر من العلاقات الرياضية بين مقاييس العدالة المختلفة. فعلى سبيل المثال، يتطلب "التكافؤ الديموغرافي" أن يكون احتمال الحصول على نتيجة إيجابية متساويًا بين مختلف الفئات المحمية. ويتطلب "تساوي الاحتمالات" أن يكون معدل الإيجابية الحقيقية ومعدل الإيجابية الكاذبة متساويين بين المجموعات. أما "التكافؤ التنبؤي" (أو المعايرة) فيتطلب أنه بالنسبة لدرجة تنبؤ معينة، يكون احتمال الحصول على نتيجة إيجابية حقيقية متساويًا بين المجموعات.

تُثبت النظرية، التي صاغها كلاينبرغ وآخرون، أنه ما لم يكن احتمال حدوث النتيجة الإيجابية متساوياً بين جميع المجموعات (وهو أمر نادر الحدوث في الواقع) أو كان المصنف مثالياً، فلا يمكن تحقيق هذه المعايير الثلاثة جميعها في آن واحد. وهذا يُجبر الممارسين وصناع السياسات على اختيار تعريف العدالة الأنسب لسياق معين، مع الإقرار بالمفاضلات الكامنة. فعلى سبيل المثال، قد تؤدي إعطاء الأولوية للتكافؤ الديموغرافي إلى تنبؤات أقل دقة لجميع المجموعات، بينما قد تؤدي إعطاء الأولوية للتكافؤ التنبؤي إلى معدلات اختيار مختلفة. وقد حوّل هذا الاكتشاف النقاش من البحث عن خوارزمية واحدة "عادلة" إلى فهم مشهد المفاضلات المتعلقة بالعدالة والتعامل معه.

UNESCO Nomenclature: 1203
- علوم الحاسب الآلي

يكتب

النظام التجريدي

الاضطراب

تزايدي

الاستخدام

الاستخدام الواسع النطاق

السلائف

  • نظرية الاستحالة لآرو في نظرية الاختيار الاجتماعي
  • developments in statistical learning theory
  • early work on disparate impact in legal studies
  • foundational concepts of probability and statistics

التطبيقات

  • development of fairness-aware machine learning frameworks
  • auditing tools for AI systems
  • policy-making and regulation for AI ethics
  • design of context-specific fairness definitions in credit scoring and hiring algorithms

براءات الاختراع:

NA

أفكار ابتكارات محتملة

بسبب عمليات جمع البيانات من خلال برامج الروبوت، والتي تتجاوز حاليًا 40 ألفًا يوميًا، فإن هذا المحتوى مخصص لأعضاء المجتمع فقط.
> تسجيل الدخول < أو > سجل < (مجاني 100٪) للوصول إلى هذا، وكذلك جميع المحتويات والأدوات الأخرى المقيدة.

ذات صلة بـ: العدالة، نظرية الاستحالة، التعلم الآلي، التحيز الخوارزمي، التكافؤ الديموغرافي، تكافؤ الاحتمالات، التكافؤ التنبؤي، أخلاقيات الذكاء الاصطناعي، المفاضلة، COMPAS.

السياق التاريخي

نظرية استحالة العدالة (التعلم الآلي)

1993
1998
2010
2016
1993
1997-04-23
2001
2010
2020

(إذا كان التاريخ غير معروف أو غير ذي صلة، على سبيل المثال "ميكانيكا الموائع"، يتم توفير تقدير تقريبي لظهوره الملحوظ)

الصور بالحجم الكامل والتنزيلات متاحة فقط 100% مجاناً للأعضاء المسجلين.