(Imagem gerada apenas para fins ilustrativos)
As técnicas algorítmicas de mitigação de viés são categorizadas em três estágios principais em relação ao processo de treinamento do modelo. Os métodos de pré-processamento modificam os próprios dados de treinamento (por exemplo, reponderação, reamostragem). Os métodos de processamento interno incorporam restrições de equidade diretamente no algoritmo de aprendizado do modelo. Os métodos de pós-processamento ajustam as previsões do modelo após terem sido feitas para melhorar a equidade.
Essa classificação em três partes fornece uma estrutura organizada para lidar com o viés. O pré-processamento é centrado nos dados; seu objetivo é criar um conjunto de dados "justo" antes que o modelo o analise. Técnicas como a reponderação atribuem importâncias diferentes aos pontos de dados para neutralizar desequilíbrios, enquanto a sobreamostragem/subamostragem ajusta o número de instâncias de diferentes grupos. Essa abordagem é agnóstica ao modelo, mas pode alterar a distribuição subjacente dos dados.
O processamento interno é centrado no modelo. Ele modifica a função objetivo do algoritmo de aprendizado para incluir um termo de penalização para injustiças. Por exemplo, um modelo pode ser otimizado para maximizar a precisão e, simultaneamente, minimizar a diferença nas taxas de erro entre os grupos. Isso pode levar a soluções mais integradas, mas requer a modificação do algoritmo principal, tornando-o menos flexível.
O pós-processamento é centrado na predição. Ele utiliza os resultados de um modelo treinado, potencialmente enviesado, e os ajusta para satisfazer um critério de equidade. Isso pode envolver a alteração dos limiares de classificação para diferentes grupos. É o método menos invasivo, pois trata o modelo como uma caixa preta, mas pode reduzir a utilidade geral e parecer improvisado. A escolha da etapa depende de fatores como o acesso aos dados de treinamento, a capacidade de modificar o modelo e os objetivos específicos de equidade.
Etapas do Processamento de Mitigação de Viés
(Caso a data seja desconhecida ou irrelevante, por exemplo, "mecânica dos fluidos", é fornecida uma estimativa aproximada de seu surgimento notável)
Imagens em tamanho real e downloads estão disponíveis apenas, 100% gratuitos, para membros registrados.
> Conecte-se <
