Product Design, Manufacturing & Innovation Resources
घर » निष्पक्षता असंभवता प्रमेय (मशीन लर्निंग)

निष्पक्षता असंभवता प्रमेय (मशीन लर्निंग)

2016
  • Jon Kleinberg
  • Sendhil Mullainathan
  • Manish Raghavan
Team of data scientists analyzing fairness metrics in machine learning.

(यह छवि केवल उदाहरण के लिए बनाई गई है)

निष्पक्ष मशीन लर्निंग में, असंभवता प्रमेय यह दर्शाते हैं कि एक एल्गोरिथम के लिए एक साथ कई, सहज ज्ञान युक्त निष्पक्षता मानदंडों को पूरा करना गणितीय रूप से असंभव है, सिवाय तुच्छ मामलों के। उदाहरण के लिए, एक एल्गोरिथम आमतौर पर जनसांख्यिकीय समानता (समूहों में समान सकारात्मक दरें) और समान विषम (समूहों में समान सच्ची सकारात्मक और गलत सकारात्मक दरें) दोनों को पूरा नहीं कर सकता है यदि समूहों के बीच आधार दरें भिन्न होती हैं।

निष्पक्षता असंभवता प्रमेय निष्पक्षता को परिभाषित करने और प्राप्त करने में एक मूलभूत विरोधाभास को उजागर करता है। यह विभिन्न निष्पक्षता मापदंडों के बीच गणितीय संबंधों से उत्पन्न होता है। उदाहरण के लिए, "जनसांख्यिकीय समानता" के लिए आवश्यक है कि सकारात्मक परिणाम की संभावना विभिन्न संरक्षित समूहों में समान हो। "समान संभावना" के लिए आवश्यक है कि सही सकारात्मक दर और गलत सकारात्मक दर सभी समूहों में बराबर हो। "भविष्यवाणी समानता" (या अंशांकन) के लिए आवश्यक है कि किसी दिए गए भविष्यवाणी स्कोर के लिए, सही सकारात्मक परिणाम की संभावना सभी समूहों में समान हो।

क्लेनबर्ग और अन्य द्वारा प्रतिपादित यह प्रमेय सिद्ध करता है कि जब तक सभी समूहों में सकारात्मक परिणाम की व्यापकता समान न हो (जो वास्तविकता में एक दुर्लभ घटना है) या वर्गीकरणकर्ता पूर्णतः सटीक न हो, तब तक इन तीनों मापदंडों को एक साथ संतुष्ट नहीं किया जा सकता। इससे अभ्यासकर्ताओं और नीति निर्माताओं को यह चुनाव करने के लिए मजबूर होना पड़ता है कि किसी दिए गए संदर्भ के लिए निष्पक्षता की कौन सी परिभाषा सबसे उपयुक्त है, और इसमें निहित कमियों को स्वीकार करना पड़ता है। उदाहरण के लिए, जनसांख्यिकीय समानता को प्राथमिकता देने से सभी समूहों के लिए कम सटीक भविष्यवाणियां हो सकती हैं, जबकि पूर्वानुमान संबंधी समानता को प्राथमिकता देने से चयन दरें भिन्न हो सकती हैं। इस खोज ने चर्चा को एक एकल "निष्पक्ष" एल्गोरिदम खोजने से हटाकर निष्पक्षता से जुड़ी कमियों को समझने और उनका समाधान खोजने की ओर मोड़ दिया।

UNESCO Nomenclature: 1203
कंप्यूटर विज्ञान

Type

सार प्रणाली

व्यवधान

इंक्रीमेंटल

उपयोग

व्यापक उपयोग

शगुन

  • सामाजिक पसंद सिद्धांत में एरो का असंभवता प्रमेय
  • सांख्यिकीय अधिगम सिद्धांत में विकास
  • कानूनी अध्ययन में असमान प्रभाव पर प्रारंभिक कार्य
  • प्रायिकता और सांख्यिकी की मूलभूत अवधारणाएँ

आवेदन

  • निष्पक्षता-जागरूक मशीन लर्निंग फ्रेमवर्क का विकास
  • एआई सिस्टम के लिए ऑडिटिंग उपकरण
  • कृत्रिम बुद्धिमत्ता नैतिकता के लिए नीति निर्माण और विनियमन
  • क्रेडिट स्कोरिंग और भर्ती एल्गोरिदम में संदर्भ-विशिष्ट निष्पक्षता परिभाषाओं का डिजाइन

पेटेंट:

NA

संभावित नवाचार विचार

  • संदर्भ-जागरूक निष्पक्षता ऑप्टिमाइज़र जो डेवलपर्स को विशिष्ट एप्लिकेशन के आधार पर निष्पक्षता मेट्रिक्स का चयन और प्राथमिकता देने की अनुमति देते हैं।
  • इंटरैक्टिव एआई ऑडिटिंग प्लेटफॉर्म जो वास्तविक समय में विभिन्न निष्पक्षता मापदंडों के बीच के तालमेल को दर्शाते हैं।
  • अंतर्निर्मित, अनुकूलन योग्य निष्पक्षता बाधाओं के साथ संघबद्ध शिक्षण मॉडल
  • वित्त और स्वास्थ्य सेवा जैसे विशिष्ट उद्योगों के लिए एआई-संचालित नियामक अनुपालन जांचकर्ता
  • शैक्षिक सॉफ्टवेयर जो विभिन्न निष्पक्षता मानदंडों को चुनने के प्रभाव का अनुकरण करता है
  • गतिशील निष्पक्षता-जागरूक अनुशंसा प्रणाली जो बदलते उपयोगकर्ता जनसांख्यिकी के अनुसार समायोजित होती है
  • निष्पक्षता-सटीकता-गोपनीयता समाधान क्षेत्र का अधिक कुशलतापूर्वक पता लगाने के लिए डिज़ाइन किए गए क्वांटम एल्गोरिदम
  • a standardized ‘fairness nutrition label’ for AI models
  • एक साथ कई निष्पक्षता संबंधी शर्तों को पूरा करने वाले कृत्रिम डेटा उत्पन्न करने के लिए स्वचालित प्रणालियाँ
  • पूर्व-सहमत निष्पक्षता मानकों के आधार पर एल्गोरिथम निर्णयों की पारदर्शी रूप से निगरानी और ऑडिट करने के लिए ब्लॉकचेन-आधारित प्रणालियाँ।
संबंधित विषय: निष्पक्षता, असंभवता प्रमेय, मशीन लर्निंग, एल्गोरिथम पूर्वाग्रह, जनसांख्यिकीय समानता, समतुल्य संभावनाएँ, पूर्वानुमानित समानता, एआई नैतिकता, ट्रेड-ऑफ, COMPAS।

ऐतिहासिक संदर्भ

निष्पक्षता असंभवता प्रमेय (मशीन लर्निंग)

1993
1998
2010
2016
1993
1997-04-23
2001
2010
2020

(यदि तिथि अज्ञात है या प्रासंगिक नहीं है, उदाहरण के लिए "द्रव यांत्रिकी", तो इसके उल्लेखनीय उद्भव का एक अनुमानित आंकड़ा प्रदान किया गया है)

नवीनतम परिवर्धन

शीर्ष पोस्ट और लेख

शीर्ष मूल उपकरण

10वां वर्ष सालगिरह

पंजीकृत सदस्यों के लिए पूर्ण आकार की छवियाँ और डाउनलोड 100% निःशुल्क उपलब्ध हैं।