アルゴリズムバイアス軽減手法は、モデル学習プロセスに関連して主に3つの段階に分類されます。前処理手法は、学習データ自体を変更します（例：重み付けの変更、リサンプリング）。処理中手法は、公平性の制約をモデルの学習アルゴリズムに直接組み込みます。後処理手法は、モデルの予測が行われた後に、公平性を向上させるために予測を調整します。
バイアス軽減処理段階
2010
（画像はイメージです）
この3部構成の分類は、バイアスに対処するための構造化されたフレームワークを提供します。前処理はデータ中心であり、モデルがデータを見る前に「公平な」データセットを作成することを目的としています。重み付けなどの手法は、不均衡を相殺するためにデータポイントに異なる重要度を割り当て、オーバーサンプリング/アンダーサンプリングは、異なるグループからのインスタンス数を調整します。このアプローチはモデルに依存しませんが、データの基となる分布を変更する可能性があります。
インプロセッシングはモデル中心のアプローチです。学習アルゴリズムの目的関数を修正し、不公平に対するペナルティ項を組み込みます。例えば、モデルは精度を最大化すると同時に、グループ間のエラー率の差を最小化するように最適化される可能性があります。これにより、より統合的なソリューションが可能になりますが、コアアルゴリズムを修正する必要があるため、柔軟性が低下します。
後処理は予測中心の手法です。訓練済みの、場合によっては偏りのあるモデルの出力を、公平性の基準を満たすように調整します。これには、異なるグループに対する分類閾値の変更が含まれる場合があります。モデルをブラックボックスとして扱うため、最も侵襲性の低い方法ですが、全体的な有用性が低下したり、場当たり的に見える可能性があります。どの段階を選択するかは、訓練データへのアクセス、モデルの変更可能性、具体的な公平性の目標などの要因によって決まります。
UNESCO Nomenclature: 1203
コンピュータサイエンス
タイプ
抽象システム
混乱
実質的な
使用法
広く普及している
前駆物質
- 機械学習における不均衡データセットの処理手法
- 数学における制約付き最適化手法
- 公平性指標の開発（目標または制約条件として機能させる）
- 機械学習という分野全体の成長
アプリケーション
- IBMのAIF360ツールキットは、3つのカテゴリすべてのアルゴリズムを実装しています。
- GoogleのWhat-Ifツールは、モデルの動作と公平性を検証することを可能にする。
- fairlearnは、公平性を評価および改善するためのオープンソースのPythonパッケージです。
- バイアス検出および軽減機能を内蔵した商用AIプラットフォーム
特許:
NA
潜在的なイノベーションのアイデア
- hybrid mitigation strategies that combine techniques from multiple stages
- automated machine learning (AutoML) platforms that select the optimal mitigation strategy for a given problem
- meta-learning approaches that learn how to apply fairness interventions across different tasks
- reinforcement learning agents trained to make sequences of decisions that are fair over the long term
- differential privacy techniques integrated with bias mitigation to ensure both fairness and privacy
- hardware accelerators specifically designed to run fairness-constrained optimization algorithms efficiently
- a ‘fairness firewall’ that acts as a post-processing layer for any API-based AI service
- auditable logging systems that track which mitigation techniques were applied and their impact
- domain-specific mitigation libraries tailored for industries like healthcare or finance
- generative adversarial networks (GANs) that generate fair synthetic data as a pre-processing step
関連キーワード：バイアス軽減、前処理、処理中、後処理、公平な機械学習、重み付けの見直し、サンプリングの見直し、公平性制約、アルゴリズムの公平性、AI倫理。
歴史的背景
バイアス軽減処理段階
（日付が不明または関連性がない場合、例えば「流体力学」などでは、その注目すべき出現時期の概算値が提示されます。）
