(Imagem gerada apenas para fins ilustrativos)
A confusão algorítmica ocorre quando um proxy Uma variável usada por um algoritmo está correlacionada com um atributo protegido (como raça ou gênero) e também com o resultado de interesse. O algoritmo pode, inadvertidamente, aprender a discriminar com base no atributo protegido ao usar o indicador, mesmo que o próprio atributo protegido seja explicitamente excluído dos dados de entrada do modelo.
A confusão algorítmica é uma fonte sutil, porém poderosa, de viés. Ela surge porque os modelos de aprendizado de máquina são excepcionalmente bons em encontrar correlações estatísticas, mesmo as espúrias. While a developer might remove a sensitive feature like ‘race’ to prevent discrimination, the model can latch onto other features that act as proxies. A classic example is the use of ZIP codes in loan applications. Due to historical residential segregation, ZIP codes can be highly correlated with race. An algorithm might learn that applicants from certain ZIP codes are higher risk, not because of their location, but because the location is a proxy for a racial group that has historically been denied loans, creating a feedback loop of discrimination.
Isso difere da confusão estatística tradicional porque o algoritmo não está apenas sendo enganado; ele está aprendendo ativamente uma política discriminatória a partir dos dados. Identificar e mitigar isso requer mais do que apenas a remoção de variáveis. Frequentemente, envolve técnicas de inferência causal para entender as verdadeiras relações entre as variáveis, ou o uso de algoritmos que consideram a equidade e que podem ser configurados para ignorar a influência de variáveis proxy conhecidas. O desafio reside no fato de que quase qualquer variável pode ser uma proxy em alguma medida, dificultando sua eliminação completa.
Devido ao tráfego de bots de coleta de dados, atualmente superior a 40 mil por dia, este conteúdo é reservado aos membros da comunidade.
> Login < ou > Registrar < (100% gratuito) para acessar isso, assim como todo o restante do conteúdo e das ferramentas restritas.
Confusão Algorítmica
(Caso a data seja desconhecida ou irrelevante, por exemplo, "mecânica dos fluidos", é fornecida uma estimativa aproximada de seu surgimento notável)
Imagens em tamanho real e downloads estão disponíveis apenas, 100% gratuitos, para membros registrados.
> Conecte-se <
