AI用語集
人工知能の完全辞典
モーダル分解による説明
各入力モダリティがモデルの最終予測に与える個々の貢献を分離し定量化する解釈可能性手法で、相対的な影響を理解することができます。
マルチモーダル統合勾配
統合勾配技術をマルチモーダルモデルに拡張したもので、すべてのモダリティの組み合わせ特徴量空間における統合パスに沿って帰属度を計算します。
マルチモーダル敵対的摂動
一つまたは複数のモダリティに微妙で調整された摂動を導入し、モデル出力への影響を観察することで特徴量の重要度を評価する説明アプローチ。
マルチモーダル論理的アンカー
異なるモダリティの特徴量に関する条件の連結形式で表される説明ルール（例：「テキストに'猫'が含まれ、かつ画像に暗い領域が表示される場合」）、予測を確定するのに十分です。
クロスT-SNE射影
t-SNEを使用して複数のモダリティの表現を共通の2D空間に射影し、それら間のアライメントと相関関係を観察する可視化技術。
モーダル共同帰属マトリクス
各要素(i, j)が特定の予測に対してモダリティiの特徴量とモダリティjの特徴量間の共同帰属スコアを定量化する行列表現。
マルチモーダル対実例による説明
一つまたは複数のモダリティで修正された例を生成し、モデルの予測を変更することで、重要な条件を明らかにしながら初期の決定を説明します。
潜在空間アライメント
モデルが異なるモダリティの表現空間を共通の意味空間にどのように射影し整列させるかを理解することを目的とする解釈プロセス。
モーダル直交正則化
異なるモーダルの表現が冗長ではなく相補的な情報を捉えることを強制する、訓練中に使用される手法。これにより、各モーダルの個別の解釈が容易になります。
モーダル重要度マスキング (Modal Importance Masking)
入力の各モーダルの一部を順番にマスクし、モデルの性能低下を測定する手法。これにより、各データタイプの空間的・時間的重要度マップを作成します。
マルチモーダル階層的説明パイプライン
まず各モーダルの重要度、次に最も影響力のあるモーダル内の特徴の重要度など、複数のレベルで説明を生成する構造化アプローチ。
視覚データからのテキスト説明生成
入力画像内で識別された顕著な領域やオブジェクトに基づいて、モデルの予測を正当化する自然言語の説明を生成するタスク。
単一モーダルモデルエミュレーションによる事後解釈可能性
一度に1つのモーダルの特徴のみを使用して、単純で解釈可能なモデル（決定木など）を訓練し、複雑なマルチモーダルモデルの予測を模倣する手法。