AI用語集

📖

用語

体系的差別

システムの構造とプロセスに組み込まれた差別の形態。アルゴリズムが既存の不平等を自動的に、大規模に再生産・増幅させる。特定のグループに対する不利な決定が持続的に現れる形で現れる。

📖

用語

オッズ均等

異なる人口統計学グループ間で真陽性率と偽陽性率が等しくなることを要求する公平性の基準。機会均等より厳しいこのアプローチは、グループ間で同等の予測パフォーマンスを保証する。

📖

用語

差別的影響

一見中立的に見える政策または慣行が保護されたグループに不釣り合いで否定的な影響を与える場合を特定する法的・倫理的概念。AIにおいて、差別的な意図がなくてもアルゴリズムが不公平な結果を生成する場合に適用される。

📖

用語

表現バイアス

データセット内の特定グループの過少表現または過剰表現。過少表現されたグループに対してパフォーマンスの低いモデルにつながる。このバイアスは予測の品質と公平性に直接影響する。

📖

用語

反事実的公平性

他の条件がすべて等しい状況で、保護された特性を持つ場合と持たない場合の個人結果を比較することに基づく公平性のアプローチ。決定が感度の高い属性だけで変わらないことを保証することを目的とする。