Agiles Projektmanagement

Algorithmic bias mitigation techniques are categorized into three main stages relative to the model training process. Pre-processing methods modify the training data itself (e.g., reweighing, resampling). In-processing methods incorporate fairness constraints directly into the model's learning algorithm. Post-processing methods adjust the model's predictions after they have been made to improve fairness.

Algorithmic confounding occurs when a proxy variable used by an algorithm is correlated with a protected attribute (like race or gender) and also with the outcome of interest. The algorithm may inadvertently learn to discriminate based on the protected attribute by using the proxy, even if the protected attribute itself is explicitly excluded from the model's input data.

Signal detection is the process of identifying potential causal relationships between a drug and an adverse event from large datasets, typically spontaneous reporting systems. It uses statistical methods, known as disproportionality analysis, to find drug-event combinations reported more frequently than expected. A common measure is the Reporting Odds Ratio (ROR), a value greater than one suggesting a potential signal that requires further investigation.

Jakob Nielsen, ein bekannter Usability-Berater, vor allem in den Bereichen UI und Webdesign, definierte Usability anhand von fünf Qualitätskomponenten: Erlernbarkeit (wie leicht ist es für Benutzer, grundlegende Aufgaben beim ersten Mal zu erledigen?), Effizienz (wie schnell können sie einmal erlernte Aufgaben erledigen?), Einprägsamkeit (können Benutzer ihre Kenntnisse nach einer Zeit der Nichtbenutzung wiederherstellen?), Fehler (wie viele Fehler machen Benutzer?) und Zufriedenheit (wie angenehm ist die Nutzung?).

Die internationale Norm ISO 9241-11 definiert Usability als das „Ausmaß, in dem ein Produkt von bestimmten Benutzern in einem bestimmten Nutzungskontext effektiv, effizient und zufriedenstellend genutzt werden kann, um bestimmte Ziele zu erreichen.“ Diese Definition bietet einen Rahmen für die Messung der Usability, indem sie diese in drei verschiedene, quantifizierbare Komponenten unterteilt und so über rein subjektive Bewertungen hinausgeht.

In fair machine learning, impossibility theorems demonstrate that it is mathematically impossible for an algorithm to satisfy multiple, seemingly intuitive fairness criteria simultaneously, except in trivial cases. For example, an algorithm cannot generally satisfy both demographic parity (equal positive rates across groups) and equalized odds (equal true positive and false positive rates across groups) if the base rates differ between groups.