AI 词汇表
人工智能完整词典
TabNet
专为表格数据设计的序列神经网络架构，使用注意力掩码机制在每个决策步骤中可解释地选择相关特征。
Masquage Attentionnel (Attentive Masking)
TabNet核心机制，学习按顺序屏蔽不相关特征，使模型能够专注于对给定预测最具信息量的变量。
Apprentissage Séquentiel des Caractéristiques (Sequential Feature Learning)
TabNet通过多个步骤学习数据表示的过程，每个步骤都基于前面步骤的信息来优化特征选择。
Feature Transformer
TabNet模块，将屏蔽的输入特征转换为更高维的新表示，使用全连接层和GLU激活函数。
GLU (Gated Linear Unit)
TabNet特征变换器中使用的激活函数，通过将线性投影乘以sigmoid门控来控制信息流，提高网络建模复杂关系的能力。
Agrégateur (Attentive Transformer)
TabNet组件，基于前一步状态和转换后的特征为下一个决策步骤生成注意力掩码，确定注意力应集中的位置。
Pas de Décision (Decision Step)
TabNet架构中的基本处理单元，结合特征变换器和注意力变换器来生成部分输出和下一步的掩码。
Réseau de Régression Série (SER - Series Regression Network)
TabNet借鉴的理论概念，将复杂预测建模为一系列更简单的决策，每个决策都优化最终结果。
嵌入分类编码
TabNet中分类变量的预处理技术，其中每个类别被映射到一个在训练过程中学习的低维密集向量，使模型能够捕捉类别之间的语义关系。
批量归一化
在TabNet块中应用的层，用于稳定和加速训练，通过将每个批次的激活归一化为零均值和单位方差。
稀疏性正则化
TabNet中使用的技术，鼓励注意力掩码仅选择少量特征，从而促进更简单和可解释的模型。
可变深度架构
TabNet的特性，其中实际使用的决策步数可以因样本而异，因为模型可以学会在信息足够进行可靠预测时停止。
表格数据
以行和列组织的数据类型，常见于电子表格或关系数据库，TabNet专门为此优化。
对缺失特征的鲁棒性
TabNet有效处理输入数据中缺失值的能力，通过学习掩盖和适应它们，而无需复杂的预先插补。
掩码强化学习
理论视角，其中TabNet中的顺序掩码过程可以看作是一个决策过程，模型学习特征选择策略以最大化准确性奖励。
掩码神经网络
一类神经网络，TabNet是其一个例子，使用学习的掩码来动态选择输入或神经元的子集，提高效率和可解释性。