AI 詞彙表
人工智能完整詞典
200
類別
2,608
子類別
30,011
術語
術語
模态分解解释
一种可解释性方法，用于隔离和量化每种输入模态对模型最终预测的个体贡献，从而理解它们的相对影响。
術語
多模态积分梯度
将积分梯度技术扩展到多模态模型，在所有模态组合特征空间中沿积分路径计算归因。
術語
多模态对抗扰动
一种解释方法，通过在一种或多种模态上引入微妙且协调的扰动来评估特征重要性，以观察对模型输出的影响。
術語
多模态逻辑锚点
以不同模态特征条件合取形式的解释规则（例如：'如果文本包含'猫'且图像显示暗色区域'），足以锚定预测。
術語
交叉T-SNE投影
一种可视化技术，使用t-SNE将多种模态的表示投影到共同的二维空间中，以观察它们之间的对齐和相关性。
術語
模态共归因矩阵
矩阵表示，其中每个元素(i, j)量化了模态i的特征与模态j的特征在给定预测中的联合归因分数。
術語
多模态反事实解释
在一种或多种模态上生成修改后的示例，改变模型的预测，通过突出关键条件来解释初始决策。
術語
潜在空间对齐
一种解释过程，旨在理解模型如何将不同模态的表示空间投影并对齐到共享的语义空间中。
術語
模态正交正则化
训练期间使用的一种技术，用于强制不同模态的表示捕获互补信息而非冗余信息，从而促进其独立解释。
術語
模态重要性掩码
一种方法，依次掩码每个输入模态的部分内容以测量模型性能下降，从而为每种数据类型创建空间和时间重要性图。
術語
分层多模态解释流程
一种结构化方法，在多个层次生成解释：首先是每个模态的重要性，然后是最具影响力模态内特征的重要性。
術語
从视觉数据合成文本解释
一项任务，旨在生成自然语言解释来证明模型的预测，基于输入图像中识别的显著区域或对象。
術語
通过单模态模型模仿进行事后可解释性
一种方法，训练简单且可解释的模型（如决策树）来模仿复杂多模态模型的预测，每次仅使用单一模态的特征。
🔍