innovation.world
Product Design, Manufacturing & Innovation Resources
Maison » Étapes du traitement d'atténuation des biais

Étapes du traitement d'atténuation des biais

2010
Data scientists collaborating on bias mitigation techniques in artificial intelligence.

(Image générée à titre d'illustration uniquement)

Les techniques d'atténuation des biais algorithmiques se répartissent en trois grandes étapes du processus d'apprentissage du modèle. Les méthodes de prétraitement modifient les données d'apprentissage (par exemple, pondération, rééchantillonnage). Les méthodes intégrées au processus d'apprentissage incorporent directement des contraintes d'équité dans l'algorithme d'apprentissage du modèle. Les méthodes de posttraitement ajustent les prédictions du modèle après leur exécution afin d'améliorer l'équité.

Cette classification en trois parties offre un cadre structuré pour traiter les biais. Le prétraitement, centré sur les données, vise à créer un jeu de données « équitable » avant son traitement par le modèle. Des techniques comme la pondération variable attribuent une importance différente aux points de données pour compenser les déséquilibres, tandis que le suréchantillonnage/sous-échantillonnage ajuste le nombre d'instances provenant de différents groupes. Cette approche est indépendante du modèle, mais peut modifier la distribution sous-jacente des données.

Le traitement intégré est centré sur le modèle. Il modifie la fonction objectif de l'algorithme d'apprentissage afin d'y inclure un terme de pénalité pour les déséquilibres. Par exemple, un modèle peut être optimisé pour maximiser la précision tout en minimisant simultanément la différence des taux d'erreur entre les groupes. Ceci peut conduire à des solutions plus intégrées, mais nécessite une modification de l'algorithme de base, ce qui le rend moins flexible.

Le post-traitement est axé sur la prédiction. Il prend les résultats d'un modèle entraîné, potentiellement biaisé, et les ajuste afin de satisfaire un critère d'équité. Cela peut impliquer de modifier les seuils de classification pour différents groupes. C'est la méthode la moins invasive car elle considère le modèle comme une boîte noire, mais elle peut réduire l'utilité globale et sembler improvisée. Le choix de l'étape dépend de facteurs tels que l'accès aux données d'entraînement, la possibilité de modifier le modèle et les objectifs d'équité spécifiques.

UNESCO Nomenclature: 1203
– Computer science

Taper

Abstract System

Perturbation

Substantiel

Usage

Utilisation généralisée

Précurseurs

  • techniques de gestion des ensembles de données déséquilibrés en apprentissage automatique
  • méthodes d'optimisation sous contraintes en mathématiques
  • élaboration de mesures d'équité servant d'objectifs ou de contraintes
  • la croissance globale de l'apprentissage automatique en tant que domaine

Applications

  • la boîte à outils AIF360 d'IBM, qui implémente des algorithmes des trois catégories
  • L'outil What-If de Google permet d'explorer le comportement et l'équité des modèles.
  • fairlearn, un package Python open-source pour évaluer et améliorer l'équité
  • Plateformes d'IA commerciales offrant des fonctionnalités intégrées de détection et d'atténuation des biais

Brevets:

NA

Idées d'innovations potentielles

  • stratégies d'atténuation hybrides qui combinent des techniques issues de plusieurs étapes
  • Plateformes d'apprentissage automatique automatisé (AutoML) qui sélectionnent la stratégie d'atténuation optimale pour un problème donné
  • approches de méta-apprentissage qui apprennent à appliquer des interventions d'équité à différentes tâches
  • agents d'apprentissage par renforcement entraînés à prendre des séquences de décisions équitables sur le long terme
  • Des techniques de confidentialité différentielle intégrées à des mécanismes d'atténuation des biais permettent de garantir à la fois l'équité et le respect de la vie privée.
  • accélérateurs matériels spécialement conçus pour exécuter efficacement des algorithmes d'optimisation sous contraintes d'équité
  • a ‘fairness firewall’ that acts as a post-processing layer for any API-based AI service
  • Des systèmes de journalisation auditables qui permettent de suivre les techniques d'atténuation appliquées et leur impact
  • des bibliothèques de mitigation spécifiques à un domaine, adaptées à des secteurs comme la santé ou la finance
  • les réseaux antagonistes génératifs (GAN) qui génèrent des données synthétiques équitables en tant qu'étape de prétraitement
Lié à : atténuation des biais, prétraitement, traitement en cours, post-traitement, apprentissage automatique équitable, pondération, rééchantillonnage, contraintes d'équité, équité algorithmique, éthique de l'IA.

Contexte historique

R programming environment with statistical analysis tools and coding interface.

Le langage de programmation R

R est un environnement logiciel libre pour le calcul statistique et le graphisme, et un dialecte du langage de programmation S. Il a été créé par Ross Ihaka et Robert Gentleman à l'Université d'Auckland, en Nouvelle-Zélande. R est considéré comme une implémentation alternative de S, avec une sémantique dérivée de Scheme, qui a introduit des fonctionnalités puissantes comme la portée lexicale, absentes des premiers S.
Computer workstation with R programming interface and statistical graphs in software engineering.

Le réseau complet d'archives R (CRAN)

Le CRAN est le principal référentiel du logiciel R, de sa documentation et de milliers de packages d'extensions fournis par les utilisateurs. Il s'agit d'un réseau mondial de serveurs FTP et web qui stocke des versions identiques et à jour du code et de la documentation R. Ce système centralisé, mais distribué, est fondamental pour l'écosystème R, garantissant un accès et une reproductibilité aisés pour les utilisateurs du monde entier.
Agile project management meeting with diverse team in modern office.

Gestion de projet agile

La gestion de projet agile est une approche itérative de la réalisation d'un projet tout au long de son cycle de vie. Elle décompose les grands projets en tâches plus petites et plus faciles à gérer, réalisées en itérations courtes, ou « sprints ». Cela permet une réévaluation fréquente, l'adaptation des plans et une flexibilité face aux changements. Elle privilégie la collaboration client, le fonctionnement des logiciels et la réactivité face aux changements plutôt qu'une documentation exhaustive et des plans rigides.

Étapes du traitement d'atténuation des biais

Team of data scientists analyzing algorithmic confounding in AI applications.

Confusion algorithmique

Un biais algorithmique survient lorsqu'une variable de substitution utilisée par un algorithme est corrélée à la fois à un attribut protégé (comme l'origine ethnique ou le sexe) et à la variable d'intérêt. L'algorithme peut alors, par inadvertance, apprendre à discriminer en fonction de l'attribut protégé en utilisant cette variable de substitution, même si cet attribut est explicitement exclu des données d'entrée du modèle.
1993
1997-04-23
2001
2010
2020
1990
1993
1998
2010
2016
Software engineer optimizing JIT compilation in a modern workspace.

Compilation juste à temps (JIT)

La compilation juste-à-temps (JIT) est une approche hybride combinant les fonctionnalités de compilation et d'interprétation. Au lieu de compiler le code en avance (AOT), un compilateur JIT traduit le bytecode en code machine natif à l'exécution, juste avant son exécution. Cela permet des optimisations dynamiques basées sur le comportement réel à l'exécution, améliorant souvent les performances par rapport à l'interprétation pure.
Usability testing lab with participants evaluating digital interfaces in human-computer interaction.

Nielsen’s Five Components of Usability

Jakob Nielsen, un consultant réputé en ergonomie, principalement en matière d'interface utilisateur et de conception Web, a défini l'ergonomie à travers cinq composantes de qualité : l'apprenabilité (est-il facile pour les utilisateurs d'accomplir des tâches de base la première fois ?), l'efficacité (à quelle vitesse peuvent-ils effectuer des tâches une fois apprises ?), la mémorisation (les utilisateurs peuvent-ils rétablir leurs compétences après une période de non-utilisation ?), les erreurs (combien d'erreurs les utilisateurs font-ils ?) et la satisfaction (est-il agréable à utiliser ?).
Usability testing lab with users evaluating software applications in human-computer interaction.

ISO 9241-11 Définition de l'utilisabilité

La norme internationale ISO 9241-11 définit l'utilisabilité comme « la mesure dans laquelle un produit peut être utilisé par des utilisateurs spécifiés pour atteindre des objectifs précis avec efficacité, efficience et satisfaction dans un contexte d'utilisation donné ». Cette définition fournit un cadre pour mesurer l'utilisabilité en la décomposant en trois composantes distinctes et quantifiables, allant au-delà des évaluations purement subjectives.
R programming workspace with Tidyverse data analysis tools and ggplot2 visualizations.

L'écosystème R Tidyverse

Tidyverse est un ensemble de packages R conçus pour la science des données, partageant une philosophie de conception, une grammaire et des structures de données communes. Développé par Hadley Wickham et d'autres, il offre une boîte à outils cohérente et puissante pour l'importation, le rangement, la transformation, la visualisation et la modélisation des données. Parmi les packages clés, on trouve « ggplot2 », « dplyr », « tidyr » et « readr », qui s'assemblent grâce à des pipelines.
Team of data scientists analyzing fairness metrics in machine learning.

Théorème d'impossibilité d'équité (apprentissage automatique)

En apprentissage automatique équitable, les théorèmes d'impossibilité démontrent qu'il est mathématiquement impossible pour un algorithme de satisfaire simultanément plusieurs critères d'équité, même apparemment intuitifs, sauf dans des cas triviaux. Par exemple, un algorithme ne peut généralement pas satisfaire à la fois la parité démographique (taux de positivité égaux entre les groupes) et l'égalité des chances (taux de vrais positifs et de faux positifs égaux entre les groupes) si les taux de base diffèrent entre les groupes.

(si la date est inconnue ou non pertinente, par exemple « mécanique des fluides », une estimation arrondie de son émergence notable est fournie)

Dernières nouveautés

Articles et publications les plus populaires

Tous les autres articles de design

Meilleurs outils originaux

Tous les autres outils originaux innovation.world
10e année anniversaire

Les images en pleine résolution et les téléchargements sont uniquement disponibles, et 100% gratuits, pour les membres inscrits.

> Se connecter <