Product Design, Manufacturing & Innovation Resources
» 公平性不可能性定理(機械学習)

公平性不可能性定理(機械学習)

2016
  • Jon Kleinberg
  • Sendhil Mullainathan
  • Manish Raghavan
機械学習で公正指標を分析するデータサイエンティストのチーム。.

(画像はイメージです)

公平な機械学習においては、不可能性定理によって、ごく些細な例外を除き、アルゴリズムが複数の一見直感的な公平性基準を同時に満たすことは数学的に不可能であることが示されています。例えば、グループ間で基本率が異なる場合、アルゴリズムは一般的に、人口統計学的均等性(グループ間で陽性率が等しいこと)と均等化されたオッズ(グループ間で真陽性率と偽陽性率が等しいこと)の両方を満たすことはできません。

公平性の不可能性定理は、公平性を定義し実現する上での根本的な矛盾を浮き彫りにします。これは、異なる公平性指標間の数学的な関係に起因します。例えば、「人口統計的パリティ」は、異なる保護対象グループ間で肯定的な結果の確率が同じであることを要求します。「均等化されたオッズ」は、グループ間で真陽性率と偽陽性率が等しいことを要求します。「予測パリティ」(または較正)は、特定の予測スコアに対して、グループ間で真陽性の結果の確率が同じであることを要求します。

クラインバーグらが提唱したこの定理は、肯定的な結果の発生率がすべてのグループで均等である場合(現実にはまれなケース)または分類器が完璧でない限り、これら3つの指標すべてを同時に満たすことはできないことを証明している。このため、実務家や政策立案者は、固有のトレードオフを認識しつつ、特定の状況においてどの公平性の定義が最も適切かを選択せざるを得なくなる。例えば、人口統計学的均等性を優先すると、すべてのグループに対する予測精度が低下する可能性がある一方、予測的均等性を優先すると、選択率が異なる可能性がある。この発見により、議論は単一の「公平な」アルゴリズムを見つけることから、公平性のトレードオフの状況を理解し、対処することへと移行した。

UNESCO Nomenclature: 1203
コンピュータサイエンス

タイプ

抽象システム

混乱

増分

使用法

広く普及している

前駆物質

  • 社会選択理論におけるアローの不可能性定理
  • 統計的学習理論の発展
  • 法学研究における差別的影響に関する初期の研究
  • 確率と統計の基礎概念

アプリケーション

  • 公平性を考慮した機械学習フレームワークの開発
  • AIシステム向け監査ツール
  • AI倫理に関する政策立案と規制
  • 信用スコアリングおよび採用アルゴリズムにおける、状況に応じた公平性の定義の設計

特許:

NA

潜在的なイノベーションのアイデア

ボットによるトラフィック(現在1日あたり4万件以上)を排除するため、このコンテンツはコミュニティメンバー限定となっています。
> ログイン < または > 登録 < (100%無料)でこれにアクセスできます。他のすべての制限付きコンテンツとツールも同様です。

関連キーワード:公平性、不可能性定理、機械学習、アルゴリズムバイアス、人口統計的平等、均等化されたオッズ、予測的平等、AI倫理、トレードオフ、COMPAS。

歴史的背景

公平性不可能性定理(機械学習)

1993
1998
2010
2016
1993
1997-04-23
2001
2010
2020

(日付が不明または関連性がない場合、例えば「流体力学」などでは、その注目すべき出現時期の概算値が提示されます。)

フルサイズの画像とダウンロードは、登録会員のみが100%無料で利用できます。