Etapas del procesamiento de mitigación de sesgos
Las técnicas de mitigación de sesgos algorítmicos se clasifican en tres etapas principales con respecto al proceso de entrenamiento del modelo. Los métodos de preprocesamiento modifican los datos de entrenamiento (por ejemplo, reponderación, remuestreo). Los métodos de procesamiento incorporan restricciones de equidad directamente en el algoritmo de aprendizaje del modelo. Los métodos de posprocesamiento ajustan las predicciones del modelo después de que se hayan realizado para mejorar la equidad.
Esta clasificación en tres partes proporciona un marco estructurado para abordar el sesgo. El preprocesamiento se centra en los datos; su objetivo es crear un conjunto de datos «justo» antes de que el modelo lo procese. Técnicas como la reponderación asignan diferente importancia a los puntos de datos para contrarrestar los desequilibrios, mientras que el sobremuestreo o el submuestreo ajustan el número de instancias de diferentes grupos. Este enfoque es independiente del modelo, pero puede alterar la distribución subyacente de los datos.
El procesamiento interno se centra en el modelo. Modifica la función objetivo del algoritmo de aprendizaje para incluir un término de penalización por injusticia. Por ejemplo, un modelo podría optimizarse para maximizar la precisión y, al mismo tiempo, minimizar la diferencia en las tasas de error entre grupos. Esto puede dar lugar a soluciones más integradas, pero requiere modificar el algoritmo principal, lo que lo hace menos flexible.
El posprocesamiento se centra en la predicción. Toma los resultados de un modelo entrenado, potencialmente sesgado, y los ajusta para satisfacer un criterio de equidad. Esto puede implicar modificar los umbrales de clasificación para diferentes grupos. Es el método menos invasivo, ya que trata el modelo como una caja negra, pero puede reducir su utilidad general y parecer improvisado. La elección de la etapa depende de factores como el acceso a los datos de entrenamiento, la capacidad de modificar el modelo y los objetivos específicos de equidad.
UNESCO Nomenclature: 1203
- Informática
Precursores
- techniques for handling imbalanced datasets in machine learning
- constrained optimization methods in mathematics
- development of fairness metrics to serve as objectives or constraints
- the overall growth of machine learning as a field
Aplicaciones
- the AIF360 toolkit by IBM, which implements algorithms from all three categories
- La herramienta What-If de Google permite explorar el comportamiento del modelo y la equidad.
- fairlearn, an open-source python package for assessing and improving fairness
- commercial AI platforms offering built-in bias detection and mitigation features
Ideas para posibles innovaciones
Debido al bloqueo del tráfico generado por bots, que actualmente supera los 40.000 al día, este contenido está reservado para los miembros de la comunidad.
> Iniciar sesión < o > Registrarse < (100% gratis) para acceder a esto, al igual que a todo el demás contenido y herramientas restringidos.
Relacionado con: mitigación de sesgos, preprocesamiento, procesamiento interno, postprocesamiento, aprendizaje automático justo, reponderación, remuestreo, restricciones de equidad, equidad algorítmica, ética de la IA.
