(Abbildung dient nur zur Veranschaulichung)
Algorithmische Verwirrung tritt auf, wenn ein Proxy Die von einem Algorithmus verwendete Variable korreliert mit einem geschützten Merkmal (wie z. B. ethnischer Zugehörigkeit oder Geschlecht) und auch mit dem interessierenden Ergebnis. Der Algorithmus kann unbeabsichtigt lernen, anhand des geschützten Merkmals zu diskriminieren, indem er die Ersatzvariable verwendet, selbst wenn das geschützte Merkmal selbst explizit aus den Eingabedaten des Modells ausgeschlossen ist.
Algorithmic confounding is a subtle but powerful source of bias. It arises because machine learning models are exceptionally good at finding statistical correlations, even spurious ones. Ein Entwickler mag zwar ein sensibles Merkmal wie „Rasse“ entfernen, um Diskriminierung zu verhindern, aber das Modell kann sich an andere Merkmale anhängen, die als solche fungieren. ProxysEin klassisches Beispiel ist die Verwendung von Postleitzahlen in Kreditanträgen. Aufgrund historischer Wohnortssegregation können Postleitzahlen stark mit der ethnischen Zugehörigkeit korrelieren. Ein Algorithmus könnte feststellen, dass Antragsteller aus bestimmten Postleitzahlen ein höheres Risiko darstellen, nicht aufgrund ihres Wohnorts, sondern weil dieser stellvertretend für eine ethnische Gruppe steht, der in der Vergangenheit Kredite verweigert wurden. Dadurch entsteht ein Teufelskreis der Diskriminierung.
Dies unterscheidet sich von herkömmlichen statistischen Störfaktoren, da der Algorithmus nicht nur irregeführt wird, sondern aktiv eine diskriminierende Strategie aus den Daten lernt. Die Identifizierung und Abschwächung dieses Problems erfordert mehr als nur die Entfernung von Merkmalen. Häufig sind Techniken zur Kausalanalyse notwendig, um die wahren Zusammenhänge zwischen Variablen zu verstehen, oder der Einsatz von Fairness-bewussten Algorithmen, die so eingeschränkt werden können, dass sie den Einfluss bekannter Stellvertretervariablen ignorieren. Die Herausforderung besteht darin, dass nahezu jede Variable bis zu einem gewissen Grad als Stellvertretervariable fungieren kann, was eine vollständige Eliminierung erschwert.
Algorithmische Verwirrung
(wenn das Datum unbekannt oder nicht relevant ist, z. B. „Strömungsmechanik“, wird eine gerundete Schätzung seines bemerkenswerten Auftretens bereitgestellt)
Bilder in voller Größe und Downloads sind ausschließlich für registrierte Mitglieder kostenlos verfügbar.
> Login <
