AI 词汇表
人工智能完整词典
200
个类别
2,608
个子类别
30,011
个术语
个术语
稀疏性约束
自编码器损失函数中添加的惩罚项，用于限制隐藏层中同时激活的单元数量，从而促进稀疏且有效的表示。
个术语
KL散度稀疏性
一种稀疏性约束方法，使用平均激活分布与一个目标稀疏分布（通常是伯努利分布）之间的KL散度（Kullback-Leibler散度）。
个术语
活动正则化
在训练过程中直接对神经元的激活值进行惩罚，以控制其平均活动水平，从而对模型施加稀疏结构。
个术语
稀疏性参数
超参数ρ，定义了每个隐藏神经元的目标激活密度，通常设置为一个较小值（如0.05）以强制实现强稀疏性。
个术语
去噪稀疏自编码器
稀疏自编码器的一种变体，从被噪声破坏的输入版本重构原始输入，结合了鲁棒性和稀疏性以获得更好的表示。
个术语
隐藏层稀疏性
隐藏层的一种特性，即对于任何给定输入，只有一小部分神经元被激活，从而促进分布式但稀疏的表示。
个术语
用于稀疏性的ReLU激活
使用ReLU激活函数，通过将负值饱和到零来自然地引入稀疏性，从而补充显式的正则化约束。
个术语
稀疏瓶颈
自编码器的压缩层，在其中应用稀疏性以创建信息瓶颈，同时保留最具判别性的特征。
个术语
可解释特征
通过稀疏约束学习的稀疏自编码器特征，这些特征对应于原始数据中可辨别且有意义的模式。
个术语
压缩效率
一种性能度量，用于量化存储稀疏表示所需的位数与原始输入所需位数的比率。
个术语
特征选择性
稀疏自编码器中神经元选择性地响应数据中特定模式的能力，这是稀疏约束的结果。
个术语
种群稀疏性
一种稀疏性类型，对于给定的输入，只有一小部分总神经元群体处于活动状态，这与持续时间稀疏性相反。
个术语
带稀疏性的重建损失
将标准重建误差与稀疏惩罚项相结合的目标函数，用于平衡重建保真度和表示稀疏性。
🔍