(Imagen generada únicamente con fines ilustrativos)
La confusión algorítmica se produce cuando un apoderado Una variable utilizada por un algoritmo está correlacionada con un atributo protegido (como la raza o el sexo) y también con el resultado de interés. El algoritmo puede aprender inadvertidamente a discriminar en función del atributo protegido utilizando el proxy, incluso si el propio atributo protegido se excluye explícitamente de los datos de entrada del modelo.
Algorithmic confounding is a subtle but powerful source of bias. It arises because machine learning models are exceptionally good at finding statistical correlations, even spurious ones. Mientras que un desarrollador puede eliminar una característica sensible como la ‘raza’ para evitar la discriminación, el modelo puede aferrarse a otras características que actúan como poderes. Un ejemplo clásico es el uso de los códigos postales en las solicitudes de préstamos. Debido a la segregación residencial histórica, los códigos postales pueden estar muy correlacionados con la raza. Un algoritmo podría aprender que los solicitantes de ciertos códigos postales son de mayor riesgo, no por su ubicación, sino porque la ubicación es un sustituto de un grupo racial al que históricamente se le han denegado los préstamos, creando un bucle de retroalimentación de la discriminación.
Esto es distinto de la confusión estadística tradicional, porque el algoritmo no sólo está siendo engañado, sino que está aprendiendo activamente una política discriminatoria a partir de los datos. Identificar y mitigar esta situación requiere algo más que la simple eliminación de características. A menudo implica técnicas de inferencia causal para comprender las verdaderas relaciones entre variables, o el uso de algoritmos que tengan en cuenta la imparcialidad y que puedan ser limitados para ignorar la influencia de variables sustitutivas conocidas. El reto reside en el hecho de que casi cualquier variable puede ser en cierta medida un proxy, lo que dificulta su eliminación completa.
Confusión algorítmica
(Si la fecha es desconocida o no es relevante, por ejemplo "mecánica de fluidos", se proporciona una estimación redondeada de su aparición notable)
Las imágenes en tamaño completo y las descargas solo están disponibles, de forma totalmente gratuita, para los miembros registrados.
> Acceso <
