Gestion de projet agile

Les techniques d'atténuation des biais algorithmiques se répartissent en trois grandes étapes par rapport au processus d'apprentissage du modèle. Les méthodes de prétraitement modifient les données d'apprentissage (par exemple, pondération, rééchantillonnage). Les méthodes intégrées intègrent des contraintes d'équité directement dans l'algorithme d'apprentissage du modèle. Les méthodes de posttraitement ajustent les prédictions du modèle après leur exécution afin d'améliorer l'équité.

Un biais algorithmique survient lorsqu'une variable de substitution utilisée par un algorithme est corrélée à la fois à un attribut protégé (comme l'origine ethnique ou le sexe) et à la variable d'intérêt. L'algorithme peut alors, par inadvertance, apprendre à discriminer en fonction de l'attribut protégé en utilisant cette variable de substitution, même si cet attribut est explicitement exclu des données d'entrée du modèle.

La détection de signaux consiste à identifier des liens de causalité potentiels entre un médicament et un événement indésirable à partir de vastes bases de données, généralement issues de systèmes de déclaration spontanée. Elle utilise des méthodes statistiques, appelées analyses de disproportionnalité, pour identifier les combinaisons médicament-événement signalées plus fréquemment que prévu. Une mesure courante est le rapport de cotes de déclaration (RDR), une valeur supérieure à 1 suggérant un signal potentiel nécessitant une investigation plus approfondie.

Jakob Nielsen, un consultant réputé en ergonomie, principalement en matière d'interface utilisateur et de conception Web, a défini l'ergonomie à travers cinq composantes de qualité : l'apprenabilité (est-il facile pour les utilisateurs d'accomplir des tâches de base la première fois ?), l'efficacité (à quelle vitesse peuvent-ils effectuer des tâches une fois apprises ?), la mémorisation (les utilisateurs peuvent-ils rétablir leurs compétences après une période de non-utilisation ?), les erreurs (combien d'erreurs les utilisateurs font-ils ?) et la satisfaction (est-il agréable à utiliser ?).

La norme internationale ISO 9241-11 définit l'utilisabilité comme « la mesure dans laquelle un produit peut être utilisé par des utilisateurs spécifiés pour atteindre des objectifs précis avec efficacité, efficience et satisfaction dans un contexte d'utilisation donné ». Cette définition fournit un cadre pour mesurer l'utilisabilité en la décomposant en trois composantes distinctes et quantifiables, allant au-delà des évaluations purement subjectives.

En apprentissage automatique équitable, les théorèmes d'impossibilité démontrent qu'il est mathématiquement impossible pour un algorithme de satisfaire simultanément plusieurs critères d'équité, même apparemment intuitifs, sauf dans des cas triviaux. Par exemple, un algorithme ne peut généralement pas satisfaire à la fois la parité démographique (taux de positivité égaux entre les groupes) et l'égalité des chances (taux de vrais positifs et de faux positifs égaux entre les groupes) si les taux de base diffèrent entre les groupes.