AI 词汇表

📖

个术语

TCAV

一种利用概念激活向量量化模型预测中可理解人类概念重要性的方法。

📖

个术语

探测任务

在模型的内部表示上训练的分类任务，以揭示每层编码了哪些语言信息。

📖

个术语

词元归因

将个体重要性分数归因于输入序列中每个词元的过程，以量化其对最终预测的贡献。

📖

个术语

神经网络交互检测

通过分析隐藏层的激活来检测深度网络中特征之间的非线性交互。

📖

个术语

BERT可解释性

一组用于解释BERT模型决策的特定技术，包括注意力机制和上下文表示的分析。

📖

个术语

Transformer可视化

用于可视化Transformer架构内部机制的工具和技术，包括注意力模式和潜在表示。

📖

个术语

LRP-Epsilon

相关性传播的一种变体，使用epsilon规则来稳定重新分配并避免深层中的除以零问题。