AI用語集

📖

用語

近傍摂動

複雑なモデルの局所的挙動を探るために、対象インスタンスの特徴をわずかに変更して生成された合成サンプルの集合。

📖

用語

インスタンス重み

説明対象の元のインスタンスからの距離に基づき、近傍内の各摂動サンプルの重要度を決定する指数係数。

📖

用語

バイナリ摂動

説明対象インスタンスの近傍で合成サンプルを生成するため、各特徴量をランダムに有効化（1）または無効化（0）する特徴量変更技術。

📖

用語

説明関数

各インスタンスとその局所的文脈を解釈可能な説明（通常は線形モデルまたは簡略化されたルールセット）に関連付けるマッピング。

📖

用語

解釈ルール

特定の特徴量が局所レベルで予測にどのように影響するかを説明するためにLIMEによって抽出された単純な論理条件の集合。

📖

用語

複雑性 vs 解釈性

より複雑なモデルはしばしば高性能だが解釈性が低いという基本的なトレードオフで、LIMEなどの技術がこれらの目標を調和させるために必要。

📖

用語

近傍ウィンドウ

説明対象インスタンス周辺の影響範囲を定義する半径またはパラメータで、局所的な関連性と近似の堅牢性のバランスを取るために重要。

📖

用語

テキストLIME

テキストデータ向けのLIMEの特殊化で、NLPモデルの予測を説明するために単語やフレーズの追加/削除からなる摂動を行う。