AI 词汇表
人工智能完整词典
200
个类别
2,608
个子类别
30,011
个术语
个术语
神经架构优化 (NAS)
为给定任务自动化设计最优神经网络架构的过程，探索拓扑结构和超参数的广阔搜索空间。
个术语
架构搜索空间
所有可能神经网络架构的集合，由层数、操作类型和连接模式等约束条件定义。
个术语
代理模型 (Surrogate Model)
近似评估昂贵性能函数（神经网络训练）的统计模型，以加速优化过程。
个术语
期望改进 (Expected Improvement - EI)
一种采集函数准则，通过最大化相对于当前最佳性能的改进期望来选择下一个评估点。
个术语
基于强化学习的NAS (Reinforcement Learning-based NAS)
一种NAS方法，其中控制器（通常是循环网络）学习通过最大化性能奖励来生成神经网络架构。
个术语
进化NAS (Evolutionary NAS)
受生物进化启发的NAS方法，使用变异和交叉操作符在架构种群中寻找更好的架构。
个术语
低保真度评估 (Low-Fidelity Evaluation)
使用减少的数据、更少的训练轮次或数据子集来评估架构性能的策略，以降低成本。
个术语
基于梯度的NAS (Gradient-Based NAS)
将离散架构选择问题松弛为连续问题的NAS技术，允许使用梯度下降来优化架构权重。
个术语
超网络（Hypernetwork）
一种神经网络，其权重由另一个网络（超网络）生成，允许参数化和优化一系列架构。
个术语
架构单元（Architecture Cell）
神经网络架构中可重复构建的模块，其内部结构通过NAS优化，然后堆叠形成最终模型。
个术语
多目标优化（Multi-Objective NAS）
NAS的变体，旨在同时优化多个指标，如准确率、延迟或能耗，以找到最优权衡。
个术语
结构化Parzen树方法（TPE）
一种贝叶斯优化算法，使用Parzen树模型对好坏配置的分布进行建模，以指导搜索。
个术语
赌博机学习（Bandit-Based NAS）
将架构组件选择视为多臂赌博机问题的NAS方法，平衡探索与利用来构建模型。
个术语
性能代理（Performance Proxy）
用于估计架构最终性能的低成本指标或模型，避免在搜索阶段进行完整且耗长的训练。
个术语
缩减搜索空间（Reduced Search Space）
将架构搜索空间限制在预定义块或模式的策略，以加速NAS算法的收敛。
个术语
架构间权重共享（Weight Sharing）
在多个候选架构评估间共享神经网络权重的技术，大幅降低NAS搜索的计算成本。
🔍