AI用語集
人工知能の完全辞典
説明の安定性
入力がわずかに変化した場合にモデルによって生成される説明の一貫性を測定する特性。ノイズに対する解釈の信頼性を保証する。
摂動に対する感度
入力データがランダムまたは構造化された摂動によって変更された場合に、説明手法が一貫した結果を維持する能力。
説明に対する敵対的攻撃
基盤となるモデルの予測性能に必ずしも影響を与えることなく、説明の品質を操作または劣化させるために設計された悪意のある技術。
説明の一貫性
生成された説明が互いに論理的に互換性があり、かつドメイン知識と整合しているかどうかを評価する定性的尺度。一貫した解釈を保証する。
説明の忠実度
説明が局所的または全体的にモデルの実際の動作をどの程度正確に近似するかの程度。提供される解釈への信頼を定量化する。
説明モデルの頑健性
入力データの変動や操作の試みに耐えながら、有効かつ信頼性の高い解釈を維持する説明システムの本質的能力。
説明の分散
類似した入力に対して生成される説明のばらつきを定量化する統計的尺度。説明システムの安定性と予測可能性を示す。
説明の連続性
入力空間における小さな変更が、生成される説明に比例した漸進的な変化をもたらすことを保証する特性。
説明の不変性
回転やスケール変更など、意味を保存する変換に対して、説明手法が一貫した結果を生成する特性。
説明の交差検証
異なるデータサブセットとモデル設定を通じて、説明の一貫性と頑健性を体系的に評価する方法論。
説明の頑健性評価
摂動や敵対的攻撃に対する説明の耐性を体系的に定量化するための標準化された指標とプロトコルの集合。
意味的摂動
全体的な意味は保存するが表面的特徴を変更する入力データの意図的な変更。説明の頑健性をテストするために使用される。
説明的転移攻撃
異なるモデルやアーキテクチャ間の類似性を利用して、それぞれの説明システムを同時に危険にさらす敵対的戦略。
説明の較正
認識された重要性と予測への実際の影響との間の信頼性のある対応を保証するために、説明スコアや重みを体系的に調整するプロセス。
説明の時間的一貫性
時系列データや逐次データにおける説明の安定性を測定する特性。異なる時間ウィンドウにわたる一貫した解釈を保証する。
複数説明の集約
複数の個別説明を組み合わせて、より頑健で安定した解釈を生成する技術。ランダムな変動や偏りの影響を軽減する。
ハイパーパラメータに対する感度
生成された説明がハイパーパラメータの選択にどの程度依存するかを測定し、説明システムの自身の設定に対する堅牢性を評価する。
説明の等方性
説明が特徴空間において均一で偏りのない分布を示す特性を保証し、系統的な方向性の歪みを回避する。
説明の不確実性分解
説明における不確実性の源（認識論的、ランダム、モデル）を分離する分析方法で、解釈の信頼性を定量化し改善する。