AI用語集

📖

用語

機会の均等 (均等化オッズ)

公平性基準の一つで、モデルの真陽性率と偽陽性率が異なる人口統計グループ間で等しくなければならず、一貫した予測性能を確保するというもの。

📖

用語

公平性監査

AIモデルを体系的に評価し、公平性指標と統計分析を用いてグループ間のバイアスと性能の格差を特定、定量化、文書化するプロセス。

📖

用語

バイアス除去

トレーニングデータ、アルゴリズム、またはモデルの予測におけるバイアスを削減または排除することを目的とする技術の集合で、前処理、中間処理、後処理を含む。

📖

用語

センシティブ属性

人種、民族、性別、年齢、宗教など、法律で保護されている人口統計変数または個人の特性で、自動意思決定での使用が差別につながる可能性があるもの。

📖

用語

公平性スコア

人口統計的パリティまたは機会均等など複数のバイアス指標を組み合わせて1つの比較可能な値にすることで、モデルの全体的な公平性レベルを定量化する集約メトリック。

📖

用語

公平な重み付け

人口統計的パリティなどの特定の公平性基準を満たすために、異なる人口統計グループのトレーニング例の重みを調整して不均衡を修正する前処理技術。

📖

用語

公平性堅牢性テスト

データの軽微な摂動や人口分布の変化に対してモデルの公平性指標が安定しているかを確認し、持続可能な公平性を保証する評価。