AI用語集
人工知能の完全辞典
XAI（説明可能なAI）
人工知能システムを人間が理解できるようにする技術や手法の集合で、複雑な意思決定プロセスを解釈可能な説明に変換するもの
局所的解釈可能性
特定のインスタンスに対するモデルの予測を説明する能力で、その特定の決定に影響を与えた特徴を特定するもの
全体的解釈可能性
AIモデルの全体の挙動を理解することで、データセット全体についてどのように意思決定を行うかを一般的に説明するもの
ブラックボックス
内部の動作が人間にとって不透明または理解不能なAIシステムで、その決定や推論プロセスを説明することが困難なもの
LIME（局所的解釈可能モデル非依存説明）
特定の予測の周辺で複雑なモデルの挙動を近似する単純な局所モデルを作成することで、個々の予測を説明する解釈技術
SHAP（シャプレー加法的説明）
ゲーム理論に基づく説明手法で、すべての特徴間で公平にクレジットを分配することにより、各特徴が最終予測に与える影響を定量化するもの
意思決定のトレーサビリティ
AIシステムの意思決定プロセスの各ステップを追跡・文書化する能力で、入力データから最終結果まで監査可能性を確保するもの
AIの監査可能性
AIシステムを体系的に検査し、標準、規制、倫理的要件への準拠を評価できる可能性、特にバイアスと差別に関するもの
モデルの解釈可能性
AIシステムが理解可能で一貫性のある意思決定の正当性を提供する能力により、ユーザーが根底にある推論を理解できるようにすること。
特徴量の重要度
モデルの予測に対する各入力変数の影響を定量的に測定し、意思決定において最も決定的な要因を特定すること。
意思決定の可視化
AIモデルの意思決定プロセスを表現するグラフィカルな手法で、予測がどのように生成されるかをユーザーが直感的に理解できるようにする。
メタ説明
なぜAIモデルが特定の説明を生成するのかを説明する二次レベルの説明で、説明システム自体への信頼を高める。
自動レポート生成
使用されたデータ、実行された推論、信頼度レベルを含むAIの意思決定を説明する詳細なレポートを自動的に生成するシステム。
人間による検証
AIシステムによって提供される説明を専門家が検証し、その関連性と正確性を確保するプロセス。
モデルドキュメンテーション
透明性と再利用性を確保するために、AIモデルの特徴、パフォーマンス、制約、動作を構造化された包括的な記録。
バイアス診断
保護された特性や機密な特性に基づく潜在的な差別を特定、定量化、理解するために、モデルの意思決定を体系的に分析すること。
アテンションヒートマップ
AIモデルが意思決定を行う際に特に注目している領域や特徴を示す可視化で、その推論プロセスの理解を容易にするもの。