AI用語集

📖

用語

部分依存(PDP)

モデルの予測に対する1つまたは2つの特徴量の限界的な効果を、すべての他の特徴量の予測を平均することで示すグラフ。機能的な関係性を明らかにするために使用されます。

📖

用語

累積局所効果(ALE)

PDPの代替手法で、他の特徴量の値を条件として、ある特徴量が予測に与える効果を計算します。これにより、変数間の相関によるバイアスを回避します。

📖

用語

アンカー(Anchors)ルール

モデルの予測を十分に保証する入力特徴量の一連の条件（アンカー）を特定する高忠実度の説明システム。これにより、オペレーターが説明を簡単に検証できます。

📖

用語

顕著性マップ(Saliency Map)

主にニューラルネットワーク向けの可視化手法で、勾配計算を通じて最終予測に最も大きな影響を与える入力特徴（ピクセル、単語、センサー）を強調表示します。

📖

用語

フォースプロット(Force Plot)

SHAPに特化した可視化手法で、各特徴量が予測を基準値（予測の平均）から最終予測値へと押し上げる（または押し下げる）様子を示し、正負の寄与を説明します。

📖

用語

形式的論理説明

ブラックボックスモデルから論理ルール（もし〜ならば）を抽出し、記号的で理解可能な説明を提供するXAIアプローチ。主にコンプライアンスとセキュリティ監査に使用されます。