Product Design, Manufacturing & Innovation Resources
» バイアス軽減処理段階

バイアス軽減処理段階

2010
人工知能におけるバイアス緩和技術を共同で研究するデータ科学者たち。.

(画像はイメージです)

アルゴリズムバイアス軽減手法は、モデル学習プロセスに関連して主に3つの段階に分類されます。前処理手法は、学習データ自体を変更します(例:重み付けの変更、リサンプリング)。処理中手法は、公平性の制約をモデルの学習アルゴリズムに直接組み込みます。後処理手法は、モデルの予測が行われた後に、公平性を向上させるために予測を調整します。

この3部構成の分類は、バイアスに対処するための構造化されたフレームワークを提供します。前処理はデータ中心であり、モデルがデータを見る前に「公平な」データセットを作成することを目的としています。重み付けなどの手法は、不均衡を相殺するためにデータポイントに異なる重要度を割り当て、オーバーサンプリング/アンダーサンプリングは、異なるグループからのインスタンス数を調整します。このアプローチはモデルに依存しませんが、データの基となる分布を変更する可能性があります。

インプロセッシングはモデル中心のアプローチです。学習アルゴリズムの目的関数を修正し、不公平に対するペナルティ項を組み込みます。例えば、モデルは精度を最大化すると同時に、グループ間のエラー率の差を最小化するように最適化される可能性があります。これにより、より統合的なソリューションが可能になりますが、コアアルゴリズムを修正する必要があるため、柔軟性が低下します。

後処理は予測中心の手法です。訓練済みの、場合によっては偏りのあるモデルの出力を、公平性の基準を満たすように調整します。これには、異なるグループに対する分類閾値の変更が含まれる場合があります。モデルをブラックボックスとして扱うため、最も侵襲性の低い方法ですが、全体的な有用性が低下したり、場当たり的に見える可能性があります。どの段階を選択するかは、訓練データへのアクセス、モデルの変更可能性、具体的な公平性の目標などの要因によって決まります。

UNESCO Nomenclature: 1203
コンピュータサイエンス

タイプ

抽象システム

混乱

実質的な

使用法

広く普及している

前駆物質

  • 機械学習における不均衡データセットの処理手法
  • 数学における制約付き最適化手法
  • 公平性指標の開発(目標または制約条件として機能させる)
  • 機械学習という分野全体の成長

アプリケーション

  • IBMのAIF360ツールキットは、3つのカテゴリすべてのアルゴリズムを実装しています。
  • GoogleのWhat-Ifツールは、モデルの動作と公平性を検証することを可能にする。
  • fairlearnは、公平性を評価および改善するためのオープンソースのPythonパッケージです。
  • バイアス検出および軽減機能を内蔵した商用AIプラットフォーム

特許:

NA

潜在的なイノベーションのアイデア

ボットによるトラフィック(現在1日あたり4万件以上)を排除するため、このコンテンツはコミュニティメンバー限定となっています。
> ログイン < または > 登録 < (100%無料)でこれにアクセスできます。他のすべての制限付きコンテンツとツールも同様です。

関連キーワード:バイアス軽減、前処理、処理中、後処理、公平な機械学習、重み付けの見直し、サンプリングの見直し、公平性制約、アルゴリズムの公平性、AI倫理。

歴史的背景

バイアス軽減処理段階

1993
1997-04-23
2001
2010
2020
1990
1993
1998
2010
2016

(日付が不明または関連性がない場合、例えば「流体力学」などでは、その注目すべき出現時期の概算値が提示されます。)

関連する発明、革新、および技術原理

フルサイズの画像とダウンロードは、登録会員のみが100%無料で利用できます。