(Immagine generata a solo scopo illustrativo)
In fair machine learning, impossibility theorems demonstrate that it is mathematically impossible for an algorithm to satisfy multiple, seemingly intuitive fairness criteria simultaneously, except in trivial cases. For example, an algorithm cannot generally satisfy both demographic parity (equal positive rates across groups) and equalized odds (equal true positive and false positive rates across groups) if the base rates differ between groups.
Il teorema dell'impossibilità dell'equità evidenzia una tensione fondamentale nella definizione e nel raggiungimento dell'equità. Essa deriva dalle relazioni matematiche tra diverse metriche di equità. Ad esempio, la "parità demografica" richiede che la probabilità di un esito positivo sia la stessa per i diversi gruppi protetti. Le "probabilità equiparate" richiedono che il tasso di veri positivi e il tasso di falsi positivi siano uguali tra i gruppi. La "parità predittiva" (o calibrazione) richiede che, per un dato punteggio di previsione, la probabilità di un esito vero positivo sia la stessa tra i gruppi.
Il teorema, formulato da Kleinberg e altri, dimostra che, a meno che la prevalenza dell'esito positivo non sia uguale in tutti i gruppi (un evento raro nella realtà) o che il classificatore non sia perfetto, queste tre metriche non possono essere soddisfatte contemporaneamente. Ciò obbliga i professionisti e i responsabili politici a scegliere quale definizione di equità sia più appropriata per un dato contesto, riconoscendo i compromessi intrinseci. Ad esempio, dare priorità alla parità demografica potrebbe portare a previsioni meno accurate per tutti i gruppi, mentre dare priorità alla parità predittiva potrebbe risultare in tassi di selezione diversi. Questa scoperta ha spostato il dibattito dalla ricerca di un singolo algoritmo "equo" alla comprensione e alla gestione del panorama dei compromessi in termini di equità.
A causa dell'eliminazione del traffico generato dai bot, che attualmente supera i 40.000 al giorno, questo contenuto è riservato ai membri della community.
> Accedi O > Registrati L'accesso a questo contenuto, così come a tutti gli altri contenuti e strumenti riservati, è (100% gratuito).
Teorema dell'impossibilità dell'equità (apprendimento automatico)
(se la data è sconosciuta o non rilevante, ad esempio "meccanica dei fluidi", viene fornita una stima approssimativa della sua notevole comparsa)
Le immagini a grandezza naturale e i download sono disponibili, 100% gratuitamente, solo per i membri registrati.
> Login <
