AI 词汇表
人工智能完整词典
对抗性音频攻击
一种故意修改音频信号以误导语音识别模型同时保持人类不可感知性的技术。这些攻击通过添加数学计算的扰动来利用神经网络的漏洞。
不可感知音频扰动
对音频信号的细微修改，设计为人耳无法检测但足以改变AI模型的分类结果。这些扰动经过优化，以最大化模型错误同时最小化感知失真。
隐藏语音指令
一种攻击手段，将恶意语音指令隐藏在看似无害的音频中，以在语音助手上触发非预期操作。该技术利用人类感知与语音识别系统算法分析之间的差异。
海豚攻击
一种使用调制到人类无法听到的超声波的语音指令的攻击，但语音助手的麦克风可以检测到。该漏洞允许远程控制系统而用户毫无察觉。
对抗性音频样本
专门制作的音频样本，用于欺骗机器学习模型产生错误分类，同时听起来正常。这些样本通过优化算法生成，以最大化目标模型的损失函数。
对抗性音频噪声
数学优化的噪声信号，添加到干净音频中以损害语音识别模型的性能。与随机噪声不同，这种噪声经过结构化设计以利用神经网络的特定弱点。
频谱图攻击
一种直接操纵音频信号频谱图表示而非原始时域信号的攻击方法。该方法通过利用模型对特定频率模式的敏感性，实现更有针对性的攻击。
白盒音频攻击
攻击者完全了解模型架构、参数和权重的攻击。这种知识允许使用FGSM或PGD等方法生成具有高度成功概率的最优扰动。
黑盒音频攻击
在不了解目标模型内部架构的情况下实施的攻击，仅利用可观察的输入和输出。这些攻击依赖于迁移技术或查询优化来寻找有效的扰动。
音频对抗防御
旨在保护语音识别模型免受对抗攻击的一系列技术。这些方法包括对抗训练、音频净化以及音频输入中的异常检测。
音频鲁棒性
语音识别模型在面对对抗扰动或噪声时保持性能的能力。鲁棒性通过模型抵抗攻击的能力以及在合法样本上保持精度的能力来衡量。
音频迁移性
针对特定音频模型生成的攻击对其他架构不同的模型仍然有效的现象。这一特性在黑盒攻击中尤为重要，因为目标模型是未知的。
音频对抗训练
一种正则化技术，模型在对抗音频样本以及干净样本上进行训练。这种方法通过让模型在训练过程中学习抵抗恶意扰动来提高鲁棒性。
通用音频扰动
一种能够欺骗模型处理各种不同输入的单一音频扰动。与特定攻击不同，这种扰动可以应用于任何音频，以通用方式破坏模型。
心理声学掩蔽
利用人类感知极限在音频信号中掩蔽对抗扰动的技术。这种方法利用听力学原理使攻击对人类不可察觉，同时对AI模型保持有效。
相位音频攻击
专门操纵音频信号相位同时保持可感知幅度的对抗攻击。这种方法特别隐蔽，因为人类对相位变化的敏感度低于自动识别系统。
时序攻击音频
引入微妙时间扰动的攻击，如微秒级偏移或时长修改。这些时间操控可以在人耳几乎无法察觉的情况下，彻底改变模型的输出。
频域攻击
在频域中进行的攻击，通过修改音频信号的傅里叶变换系数来实现。这种方法可以精确操控频率成分，在控制可感知性的同时欺骗模型。
音频对抗样本生成
使用优化方法（如投影梯度下降）创建恶意音频样本的算法过程。这些算法迭代调整音频信号，以在可感知性约束下最大化分类错误。
语音命令混淆
一种攻击技术，用于掩盖或修改合法语音命令，使其被AI系统不同地解释。该方法可以将无害命令转换为恶意指令，同时对人耳听起来正常。