AI用語集
人工知能の完全辞典
236
カテゴリ
3,245
サブカテゴリ
39,334
用語
用語
解釈可能なAutoML
予測性能と意思決定の人間による解釈能力を同時に最適化する機械学習モデルを自動的に生成することを目的とするAutoMLのサブドメイン。
用語
性能-解釈可能性のトレードオフ
AutoMLにおける根本的ジレンマで、予測精度の向上はモデルの解釈可能性の低下を伴うことが多く、ユースケースに応じて最適なバランスが必要とされる。
用語
局所的な特徴量重要度
特定の予測に対する各特徴量の影響を評価し、モデルが特定の個人のために特定の決定を下した理由を説明すること。
用語
説明可能性 vs 解釈可能性
解釈可能性がモデルのメカニズムの本質的な理解に関わるのに対し、説明可能性は不透明なモデルであっても予測の理解可能な正当化を提供することを目指す区別。
用語
代理モデル
複雑なモデルの動作を近似するためにトレーニングされたシンプルで解釈可能なモデルで、元のモデルの決定に関するグローバルまたはローカルな説明を生成できる。
用語
モデルに依存しない説明
内部アーキテクチャに関する知識を必要とせず、任意のタイプの機械学習モデルに適用可能な解釈手法。
用語
ルールベースモデル
解釈可能なIF-THENルールセットを使用して決定を下すモデルで、AutoMLにおいて性能と透明性の間に自然なバランスを提供する。
用語
事後解釈可能性
本質的に解釈可能なモデルとは対照的に、モデルの構造を変更せずに既にトレーニングされたモデルを分析・説明するアプローチ。
用語
自動特徴選択
モデルの最終的な解釈可能性を保ちながら、パフォーマンスを最大化する予測変数の最適なサブセットを自動的に特定するAutoMLプロセス。
用語
忠実度スコア
説明または代理モデルが元のモデルの予測をどれだけ忠実に再現するかを測定することにより、その忠実度を評価する指標。
用語
解釈可能なニューラルネットワーク
単調性制約付きネットワークやプロトタイプネットワークなど、解釈可能であるように特別に設計されたニューラルネットワークのアーキテクチャ。
🔍