innovation.world
Product Design, Manufacturing & Innovation Resources
بيت » نظرية استحالة العدالة (التعلم الآلي)

نظرية استحالة العدالة (التعلم الآلي)

2016
  • Jon Kleinberg
  • Sendhil Mullainathan
  • Manish Raghavan
Team of data scientists analyzing fairness metrics in machine learning.

(صورة توضيحية فقط)

In fair machine learning, impossibility theorems demonstrate that it is mathematically impossible for an algorithm to satisfy multiple, seemingly intuitive fairness criteria simultaneously, except in trivial cases. For example, an algorithm cannot generally satisfy both demographic parity (equal positive rates across groups) and equalized odds (equal true positive and false positive rates across groups) if the base rates differ between groups.

تُبرز نظرية استحالة العدالة توترًا جوهريًا في تعريف العدالة وتحقيقها، وينبع هذا التوتر من العلاقات الرياضية بين مقاييس العدالة المختلفة. فعلى سبيل المثال، يتطلب "التكافؤ الديموغرافي" أن يكون احتمال الحصول على نتيجة إيجابية متساويًا بين مختلف الفئات المحمية. ويتطلب "تساوي الاحتمالات" أن يكون معدل الإيجابية الحقيقية ومعدل الإيجابية الكاذبة متساويين بين المجموعات. أما "التكافؤ التنبؤي" (أو المعايرة) فيتطلب أنه بالنسبة لدرجة تنبؤ معينة، يكون احتمال الحصول على نتيجة إيجابية حقيقية متساويًا بين المجموعات.

تُثبت النظرية، التي صاغها كلاينبرغ وآخرون، أنه ما لم يكن احتمال حدوث النتيجة الإيجابية متساوياً بين جميع المجموعات (وهو أمر نادر الحدوث في الواقع) أو كان المصنف مثالياً، فلا يمكن تحقيق هذه المعايير الثلاثة جميعها في آن واحد. وهذا يُجبر الممارسين وصناع السياسات على اختيار تعريف العدالة الأنسب لسياق معين، مع الإقرار بالمفاضلات الكامنة. فعلى سبيل المثال، قد تؤدي إعطاء الأولوية للتكافؤ الديموغرافي إلى تنبؤات أقل دقة لجميع المجموعات، بينما قد تؤدي إعطاء الأولوية للتكافؤ التنبؤي إلى معدلات اختيار مختلفة. وقد حوّل هذا الاكتشاف النقاش من البحث عن خوارزمية واحدة "عادلة" إلى فهم مشهد المفاضلات المتعلقة بالعدالة والتعامل معه.

UNESCO Nomenclature: 1203
– Computer science

يكتب

نظام مجرد

خلل

Incremental

الاستخدام

استخدام واسع النطاق

مقدمات

  • نظرية الاستحالة لآرو في نظرية الاختيار الاجتماعي
  • developments in statistical learning theory
  • early work on disparate impact in legal studies
  • foundational concepts of probability and statistics

التطبيقات

  • development of fairness-aware machine learning frameworks
  • auditing tools for AI systems
  • policy-making and regulation for AI ethics
  • design of context-specific fairness definitions in credit scoring and hiring algorithms

براءات الاختراع:

NA

أفكار ابتكارية محتملة

  • context-aware fairness optimizers that allow developers to select and prioritize fairness metrics based on the specific application
  • interactive AI auditing platforms that visualize the trade-offs between different fairness metrics in real-time
  • federated learning models with built-in, customizable fairness constraints
  • AI-driven regulatory compliance checkers for specific industries like finance and healthcare
  • educational software simulating the impact of choosing different fairness criteria
  • dynamic fairness-aware recommender systems that adjust to changing user demographics
  • quantum algorithms designed to explore the fairness-accuracy-privacy solution space more efficiently
  • a standardized ‘fairness nutrition label’ for AI models
  • automated systems for generating synthetic data that satisfies multiple fairness constraints simultaneously
  • blockchain-based systems for transparently tracking and auditing algorithmic decisions against pre-agreed fairness metrics
ذات صلة بـ: العدالة، نظرية الاستحالة، التعلم الآلي، التحيز الخوارزمي، التكافؤ الديموغرافي، تكافؤ الاحتمالات، التكافؤ التنبؤي، أخلاقيات الذكاء الاصطناعي، المفاضلة، COMPAS.

السياق التاريخي

Usability testing lab with participants evaluating digital interfaces in human-computer interaction.

Nielsen’s Five Components of Usability

قام جاكوب نيلسن، وهو مستشار بارز في مجال قابلية الاستخدام في تصميم واجهة المستخدم والويب بشكل أساسي، بتعريف قابلية الاستخدام من خلال خمسة مكونات نوعية: قابلية التعلم (ما مدى سهولة قيام المستخدمين بإنجاز المهام الأساسية في المرة الأولى؟)، والكفاءة (ما مدى السرعة التي يمكنهم بها أداء المهام بمجرد تعلمها؟)، والقدرة على التذكر (هل يمكن للمستخدمين استعادة الكفاءة بعد فترة من عدم استخدامها؟)، والأخطاء (كم عدد الأخطاء التي يرتكبها المستخدمون؟)، والرضا (ما مدى متعة الاستخدام؟).
Usability testing lab with users evaluating software applications in human-computer interaction.

تعريف قابلية الاستخدام وفقًا لمعيار ISO 9241-11

يُعرّف المعيار الدولي ISO 9241-11 قابلية الاستخدام بأنها "مدى إمكانية استخدام منتج ما من قِبل مستخدمين محددين لتحقيق أهداف محددة بفعالية وكفاءة ورضا في سياق استخدام محدد". يوفر هذا التعريف إطارًا لقياس قابلية الاستخدام من خلال تقسيمها إلى ثلاثة مكونات مميزة وقابلة للقياس، متجاوزًا بذلك التقييمات الذاتية البحتة.
R programming workspace with Tidyverse data analysis tools and ggplot2 visualizations.

نظام R Tidyverse البيئي

Tidyverse هي مجموعة من حزم R مصممة لعلم البيانات، تشترك في فلسفة تصميم أساسية، وقواعد نحوية، وهياكل بيانات. طوّرها هادلي ويكهام وآخرون، وهي توفر مجموعة أدوات متسقة وفعّالة لاستيراد البيانات، وترتيبها، وتحويلها، وتصورها، ونمذجتها. من بين الحزم الرئيسية: ggplot2، وdplyr، وtidyr، وreadr، والتي تُركّب معًا باستخدام الأنابيب.

نظرية استحالة العدالة (التعلم الآلي)

1993
1998
2010
2016
1993
1997-04-23
2001
2010
2020
R programming environment with statistical analysis tools and coding interface.

لغة البرمجة R

R هي بيئة برمجية حرة للحوسبة الإحصائية والرسومات، وهي فرع من لغة البرمجة S. طوّرها روس إيهاكا وروبرت جنتلمان في جامعة أوكلاند، نيوزيلندا. تُعتبر R تطبيقًا بديلًا للغة S، حيث اشتُقت دلالاتها من Scheme، التي قدّمت ميزات فعّالة مثل تحديد النطاق المعجمي الذي لم يكن موجودًا في إصدارات S الأولى.
Computer workstation with R programming interface and statistical graphs in software engineering.

شبكة الأرشيف الشاملة R (CRAN)

CRAN هو المستودع الرئيسي لبرنامج R ووثائقه وآلاف حزم الإضافات التي يُساهم بها المستخدمون. وهو شبكة من خوادم FTP والويب حول العالم، تُخزّن نسخًا متطابقة ومُحدّثة من شيفرة R ووثائقها. يُعدّ هذا النظام المركزي، والموزّع في الوقت نفسه، أساسيًا لمنظومة R، إذ يضمن سهولة الوصول وإمكانية إعادة الإنتاج للمستخدمين حول العالم.
Agile project management meeting with diverse team in modern office.

إدارة المشاريع الرشيقة

إدارة المشاريع الرشيقة هي نهج تكراري لتنفيذ مشروع طوال دورة حياته. تُقسّم هذه الإدارة المشاريع الكبيرة إلى مهام أصغر وأكثر قابلية للإدارة، تُنجز في تكرارات قصيرة أو "سباقات". يتيح ذلك إعادة التقييم بشكل متكرر، وتعديل الخطط، والمرونة في الاستجابة للتغيير. كما تُعطي الأولوية لتعاون العملاء، ووجود برامج فعالة، والاستجابة للتغيير، على التوثيق الشامل والخطط الصارمة.
Data scientists collaborating on bias mitigation techniques in artificial intelligence.

مراحل معالجة تخفيف التحيز

Algorithmic bias mitigation techniques are categorized into three main stages relative to the model training process. Pre-processing methods modify the training data itself (e.g., reweighing, resampling). In-processing methods incorporate fairness constraints directly into the model's learning algorithm. Post-processing methods adjust the model's predictions after they have been made to improve fairness.
Team of data scientists analyzing algorithmic confounding in AI applications.

التشويش الخوارزمي

Algorithmic confounding occurs when a proxy variable used by an algorithm is correlated with a protected attribute (like race or gender) and also with the outcome of interest. The algorithm may inadvertently learn to discriminate based on the protected attribute by using the proxy, even if the protected attribute itself is explicitly excluded from the model's input data.

(إذا كان التاريخ غير معروف أو غير ذي صلة، على سبيل المثال "ميكانيكا الموائع"، يتم توفير تقدير تقريبي لظهوره الملحوظ)

أحدث الإضافات

أهم المنشورات والمقالات

جميع مقالات التصميم الأخرى

أفضل الأدوات الأصلية

جميع أدوات الابتكار الأصلية الأخرى.world
السنة العاشرة عيد

الصور والتنزيلات بالحجم الكامل متاحة فقط، ومجانية تمامًا، للأعضاء المسجلين.

> تسجيل الدخول <