Teorema da Impossibilidade da Equidade (aprendizado de máquina)

Jakob Nielsen, um renomado consultor de usabilidade, principalmente nas áreas de interface do usuário e webdesign, definiu usabilidade por meio de cinco componentes de qualidade: Aprendizado (quão fácil é para os usuários realizar tarefas básicas na primeira vez?), Eficiência (quão rápido eles conseguem executar tarefas depois de aprendê-las?), Memorização (os usuários conseguem recuperar a proficiência após um período sem usar o recurso?), Erros (quantos erros os usuários cometem?) e Satisfação (quão agradável é usar o recurso?).

A norma internacional ISO 9241-11 define usabilidade como "a extensão em que um produto pode ser usado por usuários específicos para atingir objetivos específicos com eficácia, eficiência e satisfação em um contexto de uso específico". Essa definição fornece uma estrutura para medir a usabilidade, dividindo-a em três componentes distintos e quantificáveis, indo além de avaliações puramente subjetivas.

A gestão ágil de projetos é uma abordagem iterativa para a entrega de um projeto ao longo de seu ciclo de vida. Ela divide grandes projetos em tarefas menores e gerenciáveis, concluídas em iterações curtas ou "sprints". Isso permite reavaliações frequentes, adaptação de planos e flexibilidade em resposta a mudanças. Prioriza a colaboração com o cliente, o software funcional e a capacidade de resposta a mudanças em detrimento de documentação abrangente e planos rígidos.

As técnicas de mitigação de viés algorítmico são categorizadas em três estágios principais em relação ao processo de treinamento do modelo. Os métodos de pré-processamento modificam os próprios dados de treinamento (por exemplo, reponderação, reamostragem). Os métodos de processamento interno incorporam restrições de equidade diretamente no algoritmo de aprendizado do modelo. Os métodos de pós-processamento ajustam as previsões do modelo após terem sido feitas para melhorar a equidade.

A confusão algorítmica ocorre quando uma variável proxy usada por um algoritmo está correlacionada com um atributo protegido (como raça ou gênero) e também com o resultado de interesse. O algoritmo pode, inadvertidamente, aprender a discriminar com base no atributo protegido ao usar a variável proxy, mesmo que o próprio atributo protegido seja explicitamente excluído dos dados de entrada do modelo.