Théorème d'impossibilité d'équité (apprentissage automatique)

Jakob Nielsen, un consultant réputé en ergonomie, principalement en matière d'interface utilisateur et de conception Web, a défini l'ergonomie à travers cinq composantes de qualité : l'apprenabilité (est-il facile pour les utilisateurs d'accomplir des tâches de base la première fois ?), l'efficacité (à quelle vitesse peuvent-ils effectuer des tâches une fois apprises ?), la mémorisation (les utilisateurs peuvent-ils rétablir leurs compétences après une période de non-utilisation ?), les erreurs (combien d'erreurs les utilisateurs font-ils ?) et la satisfaction (est-il agréable à utiliser ?).

La norme internationale ISO 9241-11 définit l'utilisabilité comme « la mesure dans laquelle un produit peut être utilisé par des utilisateurs spécifiés pour atteindre des objectifs précis avec efficacité, efficience et satisfaction dans un contexte d'utilisation donné ». Cette définition fournit un cadre pour mesurer l'utilisabilité en la décomposant en trois composantes distinctes et quantifiables, allant au-delà des évaluations purement subjectives.

La gestion de projet agile est une approche itérative de la réalisation d'un projet tout au long de son cycle de vie. Elle décompose les grands projets en tâches plus petites et plus faciles à gérer, réalisées en itérations courtes, ou « sprints ». Cela permet une réévaluation fréquente, l'adaptation des plans et une flexibilité face aux changements. Elle privilégie la collaboration client, le fonctionnement des logiciels et la réactivité face aux changements plutôt qu'une documentation exhaustive et des plans rigides.

Les techniques d'atténuation des biais algorithmiques se répartissent en trois grandes étapes par rapport au processus d'apprentissage du modèle. Les méthodes de prétraitement modifient les données d'apprentissage (par exemple, pondération, rééchantillonnage). Les méthodes intégrées intègrent des contraintes d'équité directement dans l'algorithme d'apprentissage du modèle. Les méthodes de posttraitement ajustent les prédictions du modèle après leur exécution afin d'améliorer l'équité.

Un biais algorithmique survient lorsqu'une variable de substitution utilisée par un algorithme est corrélée à la fois à un attribut protégé (comme l'origine ethnique ou le sexe) et à la variable d'intérêt. L'algorithme peut alors, par inadvertance, apprendre à discriminer en fonction de l'attribut protégé en utilisant cette variable de substitution, même si cet attribut est explicitement exclu des données d'entrée du modèle.