Product Design, Manufacturing & Innovation Resources
घर » निष्पक्षता असंभवता प्रमेय (मशीन लर्निंग)

निष्पक्षता असंभवता प्रमेय (मशीन लर्निंग)

2016
  • Jon Kleinberg
  • Sendhil Mullainathan
  • Manish Raghavan
मशीन लर्निंग में निष्पक्षता मेट्रिक्स का विश्लेषण करने वाली डेटा वैज्ञानिकों की टीम।.

(यह छवि केवल उदाहरण के लिए बनाई गई है)

निष्पक्ष मशीन लर्निंग में, असंभवता प्रमेय यह दर्शाते हैं कि एक एल्गोरिथम के लिए एक साथ कई, सहज ज्ञान युक्त निष्पक्षता मानदंडों को पूरा करना गणितीय रूप से असंभव है, सिवाय तुच्छ मामलों के। उदाहरण के लिए, एक एल्गोरिथम आमतौर पर जनसांख्यिकीय समानता (समूहों में समान सकारात्मक दरें) और समान विषम (समूहों में समान सच्ची सकारात्मक और गलत सकारात्मक दरें) दोनों को पूरा नहीं कर सकता है यदि समूहों के बीच आधार दरें भिन्न होती हैं।

निष्पक्षता असंभवता प्रमेय निष्पक्षता को परिभाषित करने और प्राप्त करने में एक मूलभूत विरोधाभास को उजागर करता है। यह विभिन्न निष्पक्षता मापदंडों के बीच गणितीय संबंधों से उत्पन्न होता है। उदाहरण के लिए, "जनसांख्यिकीय समानता" के लिए आवश्यक है कि सकारात्मक परिणाम की संभावना विभिन्न संरक्षित समूहों में समान हो। "समान संभावना" के लिए आवश्यक है कि सही सकारात्मक दर और गलत सकारात्मक दर सभी समूहों में बराबर हो। "भविष्यवाणी समानता" (या अंशांकन) के लिए आवश्यक है कि किसी दिए गए भविष्यवाणी स्कोर के लिए, सही सकारात्मक परिणाम की संभावना सभी समूहों में समान हो।

क्लेनबर्ग और अन्य द्वारा प्रतिपादित यह प्रमेय सिद्ध करता है कि जब तक सभी समूहों में सकारात्मक परिणाम की व्यापकता समान न हो (जो वास्तविकता में एक दुर्लभ घटना है) या वर्गीकरणकर्ता पूर्णतः सटीक न हो, तब तक इन तीनों मापदंडों को एक साथ संतुष्ट नहीं किया जा सकता। इससे अभ्यासकर्ताओं और नीति निर्माताओं को यह चुनाव करने के लिए मजबूर होना पड़ता है कि किसी दिए गए संदर्भ के लिए निष्पक्षता की कौन सी परिभाषा सबसे उपयुक्त है, और इसमें निहित कमियों को स्वीकार करना पड़ता है। उदाहरण के लिए, जनसांख्यिकीय समानता को प्राथमिकता देने से सभी समूहों के लिए कम सटीक भविष्यवाणियां हो सकती हैं, जबकि पूर्वानुमान संबंधी समानता को प्राथमिकता देने से चयन दरें भिन्न हो सकती हैं। इस खोज ने चर्चा को एक एकल "निष्पक्ष" एल्गोरिदम खोजने से हटाकर निष्पक्षता से जुड़ी कमियों को समझने और उनका समाधान खोजने की ओर मोड़ दिया।

UNESCO Nomenclature: 1203
कंप्यूटर विज्ञान

Type

सार प्रणाली

व्यवधान

इंक्रीमेंटल

उपयोग

व्यापक उपयोग

शगुन

  • सामाजिक पसंद सिद्धांत में एरो का असंभवता प्रमेय
  • सांख्यिकीय अधिगम सिद्धांत में विकास
  • कानूनी अध्ययन में असमान प्रभाव पर प्रारंभिक कार्य
  • प्रायिकता और सांख्यिकी की मूलभूत अवधारणाएँ

आवेदन

  • निष्पक्षता-जागरूक मशीन लर्निंग फ्रेमवर्क का विकास
  • एआई सिस्टम के लिए ऑडिटिंग उपकरण
  • कृत्रिम बुद्धिमत्ता नैतिकता के लिए नीति निर्माण और विनियमन
  • क्रेडिट स्कोरिंग और भर्ती एल्गोरिदम में संदर्भ-विशिष्ट निष्पक्षता परिभाषाओं का डिजाइन

पेटेंट:

NA

संभावित नवाचार विचार

बॉट ट्रैफिक को कम करने के कारण, जो वर्तमान में प्रति दिन 40,000 से अधिक है, यह सामग्री केवल समुदाय के सदस्यों के लिए आरक्षित है।
> लॉगिन < या > रजिस्टर < इस सामग्री और अन्य सभी प्रतिबंधित सामग्रियों और उपकरणों तक पहुंच (100% निःशुल्क) है।

संबंधित विषय: निष्पक्षता, असंभवता प्रमेय, मशीन लर्निंग, एल्गोरिथम पूर्वाग्रह, जनसांख्यिकीय समानता, समतुल्य संभावनाएँ, पूर्वानुमानित समानता, एआई नैतिकता, ट्रेड-ऑफ, COMPAS।

ऐतिहासिक संदर्भ

निष्पक्षता असंभवता प्रमेय (मशीन लर्निंग)

1993
1998
2010
2016
1993
1997-04-23
2001
2010
2020

(यदि तिथि अज्ञात है या प्रासंगिक नहीं है, उदाहरण के लिए "द्रव यांत्रिकी", तो इसके उल्लेखनीय उद्भव का एक अनुमानित आंकड़ा प्रदान किया गया है)

संबंधित आविष्कार, नवाचार और तकनीकी सिद्धांत

पंजीकृत सदस्यों के लिए पूर्ण आकार की छवियाँ और डाउनलोड 100% निःशुल्क उपलब्ध हैं।