(यह छवि केवल उदाहरण के लिए बनाई गई है)
Algorithmic confounding occurs when a प्रॉक्सी variable used by an algorithm is correlated with a protected attribute (like race or gender) and also with the outcome of interest. The algorithm may inadvertently learn to discriminate based on the protected attribute by using the proxy, even if the protected attribute itself is explicitly excluded from the model’s input data.
एल्गोरिथम संबंधी भ्रम एक सूक्ष्म लेकिन शक्तिशाली पूर्वाग्रह का स्रोत है। यह इसलिए उत्पन्न होता है क्योंकि मशीन लर्निंग मॉडल सांख्यिकीय सहसंबंधों को खोजने में असाधारण रूप से कुशल होते हैं, यहां तक कि भ्रामक सहसंबंधों को भी। हालांकि कोई डेवलपर भेदभाव को रोकने के लिए 'नस्ल' जैसी संवेदनशील विशेषता को हटा सकता है, लेकिन मॉडल अन्य विशेषताओं को पकड़ सकता है जो अप्रत्यक्ष रूप से भेदभाव का संकेत देती हैं। इसका एक उत्कृष्ट उदाहरण ऋण आवेदनों में ज़िप कोड का उपयोग है। ऐतिहासिक आवासीय अलगाव के कारण, ज़िप कोड नस्ल से अत्यधिक संबंधित हो सकते हैं। एक एल्गोरिदम यह सीख सकता है कि कुछ ज़िप कोड से आने वाले आवेदक अधिक जोखिम वाले हैं, न कि उनके स्थान के कारण, बल्कि इसलिए कि स्थान एक ऐसे नस्लीय समूह का संकेत है जिसे ऐतिहासिक रूप से ऋण देने से इनकार किया गया है, जिससे भेदभाव का एक दुष्चक्र बन जाता है।
This is distinct from traditional statistical confounding because the algorithm isn’t just being misled; it’s actively learning a discriminatory policy from the data. Identifying and mitigating this requires more than just feature removal. It often involves causal inference techniques to understand the true relationships between variables, or the use of fairness-aware algorithms that can be constrained to ignore the influence of known proxies. The challenge lies in the fact that almost any variable can be a proxy to some extent, making complete elimination difficult.
बॉट ट्रैफिक को कम करने के कारण, जो वर्तमान में प्रति दिन 40,000 से अधिक है, यह सामग्री केवल समुदाय के सदस्यों के लिए आरक्षित है।
> लॉगिन < या > रजिस्टर < इस सामग्री और अन्य सभी प्रतिबंधित सामग्रियों और उपकरणों तक पहुंच (100% निःशुल्क) है।
एल्गोरिथम संबंधी भ्रम
(यदि तिथि अज्ञात है या प्रासंगिक नहीं है, उदाहरण के लिए "द्रव यांत्रिकी", तो इसके उल्लेखनीय उद्भव का एक अनुमानित आंकड़ा प्रदान किया गया है)
पंजीकृत सदस्यों के लिए पूर्ण आकार की छवियाँ और डाउनलोड 100% निःशुल्क उपलब्ध हैं।
> लॉग इन करें <
