公平な機械学習においては、不可能性定理によって、ごく些細な例外を除き、アルゴリズムが複数の一見直感的な公平性基準を同時に満たすことは数学的に不可能であることが示されています。例えば、グループ間で基本率が異なる場合、アルゴリズムは一般的に、人口統計学的均等性(グループ間で陽性率が等しいこと)と均等化されたオッズ(グループ間で真陽性率と偽陽性率が等しいこと)の両方を満たすことはできません。

(画像はイメージです)
公平な機械学習においては、不可能性定理によって、ごく些細な例外を除き、アルゴリズムが複数の一見直感的な公平性基準を同時に満たすことは数学的に不可能であることが示されています。例えば、グループ間で基本率が異なる場合、アルゴリズムは一般的に、人口統計学的均等性(グループ間で陽性率が等しいこと)と均等化されたオッズ(グループ間で真陽性率と偽陽性率が等しいこと)の両方を満たすことはできません。
公平性の不可能性定理は、公平性を定義し実現する上での根本的な矛盾を浮き彫りにします。これは、異なる公平性指標間の数学的な関係に起因します。例えば、「人口統計的パリティ」は、異なる保護対象グループ間で肯定的な結果の確率が同じであることを要求します。「均等化されたオッズ」は、グループ間で真陽性率と偽陽性率が等しいことを要求します。「予測パリティ」(または較正)は、特定の予測スコアに対して、グループ間で真陽性の結果の確率が同じであることを要求します。
クラインバーグらが提唱したこの定理は、肯定的な結果の発生率がすべてのグループで均等である場合(現実にはまれなケース)または分類器が完璧でない限り、これら3つの指標すべてを同時に満たすことはできないことを証明している。このため、実務家や政策立案者は、固有のトレードオフを認識しつつ、特定の状況においてどの公平性の定義が最も適切かを選択せざるを得なくなる。例えば、人口統計学的均等性を優先すると、すべてのグループに対する予測精度が低下する可能性がある一方、予測的均等性を優先すると、選択率が異なる可能性がある。この発見により、議論は単一の「公平な」アルゴリズムを見つけることから、公平性のトレードオフの状況を理解し、対処することへと移行した。
ボットによるトラフィック(現在1日あたり4万件以上)を排除するため、このコンテンツはコミュニティメンバー限定となっています。
> ログイン < または > 登録 < (100%無料)でこれにアクセスできます。他のすべての制限付きコンテンツとツールも同様です。
公平性不可能性定理(機械学習)
(日付が不明または関連性がない場合、例えば「流体力学」などでは、その注目すべき出現時期の概算値が提示されます。)
フルサイズの画像とダウンロードは、登録会員のみが100%無料で利用できます。
> ログイン <