AI 詞彙表
人工智能完整詞典
编码器 (Encoder)
自编码器的一部分，通过学习非线性压缩函数将输入数据转换为低维表示，称为潜在空间或代码。
解码器 (Decoder)
自编码器的一部分，接收潜在空间的压缩表示并尝试重建原始输入数据，从而学习解压缩函数。
潜在空间 (Latent Space)
自编码器中维度最低的表示层，捕获输入数据最基本和压缩的特征。
瓶颈层 (Bottleneck)
自编码器架构中最窄的层，位于编码器和解码器之间，强制网络学习数据的简洁表示。
重建损失函数 (Reconstruction Loss)
目标函数，通常是均方误差（MSE）或交叉熵，用于衡量原始输入数据与解码器重建数据之间的差异。
对称自编码器
编码器和解码器结构互为镜像的自编码器架构，具有用于压缩和解压缩的对应层维度。
欠完备性 (Undercompleteness)
自编码器潜在空间维度应低于输入数据维度的原则，从而强制网络学习最相关的特征而非简单复制。
权重绑定 (Tied Weights)
一种技术，其中解码器的权重矩阵是编码器权重矩阵的转置，减少参数数量并促进对称重建。
单元计数
确定自编码器每层神经元数量的过程，其中单元数量通过编码器逐渐减少以达到瓶颈层。
非线性降维
自编码器的主要应用，学习复杂的数据流形，将高维数据投影到低维空间，超越如主成分分析等线性方法。
表示学习
自编码器在没有监督标签的情况下自动发现数据的抽象特征和内在结构的能力。
单层自编码器
最简单的自编码器形式，具有单个隐藏层作为瓶颈层，相当于非线性主成分分析。
深度自编码器
具有编码器和解码器中多个隐藏层的自编码器架构，能够学习复杂的特征层次以实现更好的压缩。
重构噪声
自编码器在重构数据中引入的伪影或错误，可通过分析这些噪声来理解模型学习到的表示的局限性。
编码器激活函数
在编码器层中应用的非线性函数（如ReLU、sigmoid或tanh），用于学习输入数据的复杂变换。
解码器激活函数
在解码器层中应用的函数，通常选择与输入数据分布相匹配（例如，对于归一化到0和1之间的数据使用sigmoid函数）。
过完备性
潜在空间维度高于输入数据维度的条件，需要额外的约束如正则化来避免简单的恒等学习。
量化误差
自编码器中重构误差的一部分，由连续信息压缩到有限维潜在空间所导致。