AI用語集

📖

用語

モデル蒸留

複雑なモデル（教師モデル）からより単純なモデル（生徒モデル）へ知識を転送するプロセスで、予測能力を維持しながら最終モデルの解釈可能性を向上させます。

📖

用語

決定木近似

最適な分割基準を使用して忠実性を最大化しながら解釈可能性を保証する、複雑なモデルを同等または近似の決定木に置き換える方法。

📖

用語

解釈のための次元削減

高次元空間における特徴間の関係を視覚化・理解するために、PCA、t-SNE、UMAPなどの手法を特定して適用し、隠れた構造を明らかにします。

📖

用語

概念活性化ベクトル（CAV）

方向性ベクトルを使用して特定の概念の活性化を定量化し、モデルの内部表現に人間が理解できる概念が存在するかどうかをテストするアプローチ。

📖

用語

帰属手法

モデルの予測を特定の入力特徴に帰属させる一連の技術で、決定を説明するために勾配ベース、積分、摂動などの手法を含みます。