(Imagen generada únicamente con fines ilustrativos)
In fair machine learning, impossibility theorems demonstrate that it is mathematically impossible for an algorithm to satisfy multiple, seemingly intuitive fairness criteria simultaneously, except in trivial cases. For example, an algorithm cannot generally satisfy both demographic parity (equal positive rates across groups) and equalized odds (equal true positive and false positive rates across groups) if the base rates differ between groups.
El teorema de la imposibilidad de equidad pone de relieve una tensión fundamental en la definición y el logro de la equidad. Surge de las relaciones matemáticas entre diferentes métricas de equidad. Por ejemplo, la «paridad demográfica» exige que la probabilidad de un resultado positivo sea la misma en los distintos grupos protegidos. La «igualdad de probabilidades» exige que la tasa de verdaderos positivos y la tasa de falsos positivos sean iguales en todos los grupos. La «paridad predictiva» (o calibración) exige que, para una puntuación de predicción dada, la probabilidad de un resultado verdadero positivo sea la misma en todos los grupos.
El teorema, formulado por Kleinberg y otros, demuestra que, a menos que la prevalencia del resultado positivo sea igual en todos los grupos (algo poco frecuente en la realidad) o que el clasificador sea perfecto, estas tres métricas no pueden satisfacerse simultáneamente. Esto obliga a profesionales y responsables políticos a elegir la definición de equidad más adecuada para cada contexto, reconociendo las ventajas y desventajas inherentes. Por ejemplo, priorizar la paridad demográfica podría resultar en predicciones menos precisas para todos los grupos, mientras que priorizar la paridad predictiva podría generar diferentes tasas de selección. Este descubrimiento transformó el debate, pasando de buscar un único algoritmo «justo» a comprender y gestionar las complejidades de la equidad.
Debido al bloqueo del tráfico generado por bots, que actualmente supera los 40.000 al día, este contenido está reservado para los miembros de la comunidad.
> Iniciar sesión < o > Registrarse < (100% gratis) para acceder a esto, al igual que a todo el demás contenido y herramientas restringidos.
Teorema de imposibilidad de equidad (aprendizaje automático)
(Si la fecha es desconocida o no es relevante, por ejemplo "mecánica de fluidos", se proporciona una estimación redondeada de su aparición notable)
Las imágenes a tamaño completo y las descargas sólo están disponibles, 100% gratis, para los miembros registrados.
> Acceso <
