Product Design, Manufacturing & Innovation Resources
Maison » Étapes du traitement d'atténuation des biais

Étapes du traitement d'atténuation des biais

2010
Des scientifiques des données collaborent sur des techniques d'atténuation des biais dans l'intelligence artificielle.

(Image générée à titre d'illustration uniquement)

Les techniques d'atténuation des biais algorithmiques se répartissent en trois grandes étapes du processus d'apprentissage du modèle. Les méthodes de prétraitement modifient les données d'apprentissage (par exemple, pondération, rééchantillonnage). Les méthodes intégrées au processus d'apprentissage incorporent directement des contraintes d'équité dans l'algorithme d'apprentissage du modèle. Les méthodes de posttraitement ajustent les prédictions du modèle après leur exécution afin d'améliorer l'équité.

Cette classification en trois parties offre un cadre structuré pour traiter les biais. Le prétraitement, centré sur les données, vise à créer un jeu de données « équitable » avant son traitement par le modèle. Des techniques comme la pondération variable attribuent une importance différente aux points de données pour compenser les déséquilibres, tandis que le suréchantillonnage/sous-échantillonnage ajuste le nombre d'instances provenant de différents groupes. Cette approche est indépendante du modèle, mais peut modifier la distribution sous-jacente des données.

Le traitement intégré est centré sur le modèle. Il modifie la fonction objectif de l'algorithme d'apprentissage afin d'y inclure un terme de pénalité pour les déséquilibres. Par exemple, un modèle peut être optimisé pour maximiser la précision tout en minimisant simultanément la différence des taux d'erreur entre les groupes. Ceci peut conduire à des solutions plus intégrées, mais nécessite une modification de l'algorithme de base, ce qui le rend moins flexible.

Le post-traitement est axé sur la prédiction. Il prend les résultats d'un modèle entraîné, potentiellement biaisé, et les ajuste afin de satisfaire un critère d'équité. Cela peut impliquer de modifier les seuils de classification pour différents groupes. C'est la méthode la moins invasive car elle considère le modèle comme une boîte noire, mais elle peut réduire l'utilité globale et sembler improvisée. Le choix de l'étape dépend de facteurs tels que l'accès aux données d'entraînement, la possibilité de modifier le modèle et les objectifs d'équité spécifiques.

UNESCO Nomenclature: 1203
- Informatique

Taper

Système abstrait

Perturbation

Substantiel

Usage

Utilisation généralisée

Précurseurs

  • techniques de gestion des ensembles de données déséquilibrés en apprentissage automatique
  • méthodes d'optimisation sous contraintes en mathématiques
  • élaboration de mesures d'équité servant d'objectifs ou de contraintes
  • la croissance globale de l'apprentissage automatique en tant que domaine

Applications

  • la boîte à outils AIF360 d'IBM, qui implémente des algorithmes des trois catégories
  • L'outil What-If de Google permet d'explorer le comportement et l'équité des modèles.
  • fairlearn, un package Python open-source pour évaluer et améliorer l'équité
  • Plateformes d'IA commerciales offrant des fonctionnalités intégrées de détection et d'atténuation des biais

Brevets:

NA

Idées d'innovations potentielles

En raison du trafic généré par les robots de scraping, actuellement supérieur à 40 000 par jour, ce contenu est réservé aux membres de la communauté.
> Connexion < ou > Registre < (100% gratuit) pour y accéder, ainsi qu'à tous les autres contenus et outils à accès restreint.

Lié à : atténuation des biais, prétraitement, traitement en cours, post-traitement, apprentissage automatique équitable, pondération, rééchantillonnage, contraintes d'équité, équité algorithmique, éthique de l'IA.

Contexte historique

Étapes du traitement d'atténuation des biais

1993
1997-04-23
2001
2010
2020
1990
1993
1998
2010
2016

(si la date est inconnue ou non pertinente, par exemple « mécanique des fluides », une estimation arrondie de son émergence notable est fournie)

Les images en pleine résolution et les téléchargements sont uniquement disponibles, et 100% gratuits, pour les membres inscrits.