AI用語集
人工知能の完全辞典
XAI（説明可能なAI）
人工知能システムの意思決定を人間が理解できるようにすることを目的とする一連の技術と手法であり、信頼性と受容性に不可欠です。
解釈可能性
モデルが人間が理解できる形で意思決定を提示する能力であり、内部メカニズムの理解に関する透明性とは区別されます。
事後的説明
モデルのアーキテクチャを変更することなく、トレーニング後に適用される説明方法で、ブラックボックスモデルの予測を説明することができます。
SHAP（SHapley Additive exPlanations）
ゲーム理論に基づく理論的アプローチで、モデルの予測における各特徴量の重要性を加法的で一貫性のある方法で割り当てます。
LIME（Local Interpretable Model-agnostic Explanations）
特定の予測の近傍で、複雑なモデルの動作を単純で解釈可能なモデルで近似する局所的な説明手法です。
影響要因
システム内で特定の推薦の生成に直接貢献した特定の要素（項目、属性、過去の行動）です。
反説明
なぜ特定の項目が推薦されなかったかを正当化する説明で、ユーザーがシステムの制約と除外基準を理解するのに役立ちます。
因果的正当化
単純な相関関係ではなく、ユーザーの行動と生成された推薦との間の因果関係に基づいた説明です。
知識ベースのアプローチ
オントロジーや知識グラフを使用して、意味的に豊かで文脈的に関連する説明を生成する推薦手法。
説明の可視化
アルゴリズムの正当性を直感的な視覚要素に変換し、ユーザーの理解を容易にする対話的なグラフィック表現。
説明のパーソナライゼーション
各ユーザーのプロファイル、好み、専門知識に応じて、説明の内容、スタイル、詳細度を適応させること。
説明の質的評価
ユーザー研究、面接、コンテンツ分析に基づく評価方法で、説明の関連性と知覚される有用性を測定する。
説明フィードバック
ユーザーが提供された説明に反応できるメカニズムで、将来の推薦と正当性の品質を向上させる。
説明の複雑性
説明を理解するために必要な認知的困難度の測定で、技術的正確さとユーザーのアクセシビリティの間の妥協点を評価する。
アルゴリズムの透明性
推薦システムの追跡可能性と監査可能性を保証するために、その根底にあるメカニズム、データ、論理を明らかにする原則。
アルゴリズム信頼
提供される説明の品質と関連性によって直接影響される、ユーザーがシステムに対して感じる信頼性と信頼度のレベル。
内在的説明
設計段階から解釈可能性を意図して作られたモデルで、事後的アプローチとは異なり、本来説明能力を統合しています。
説明的関連ルール
行動と項目の間で発見された関係を示すことで推奨を正当化する論理ルール（IF-THEN）の集合です。
説明バイアス
生成された説明における体系的な歪みで、特定の要因を過大に表現したり、他の要因を最小化したりすることがあり、システムの公平な認識に影響を与えます。