AI 詞彙表
人工智能完整詞典
FedAvg(联邦平均)
联邦学习中的基础聚合算法,根据客户端数据集大小计算本地模型权重的加权平均值,以创建全局模型。
FedProx(联邦近端)
FedAvg的扩展,添加了近端正则化项以约束本地更新保持接近全局模型,从而减少客户端的异质性。
SCAFFOLD(随机控制平均)
使用控制变量来校正客户端-服务器漂移偏差并减少数据异质性影响的高级聚合算法。
FedBN(联邦批量归一化)
保持每个客户端特定的本地批量归一化统计信息,同时共享模型其他参数的聚合方法。
FedOpt(联邦优化)
使用高级服务器优化器(Adam、Yogi)来改善非独立同分布联邦学习场景中收敛性的算法家族。
FedMA(联邦匹配平均)
神经聚合算法,匹配并平均本地模型之间的相似神经元,而不是直接聚合权重。
FedNova(联邦归一化平均)
通过本地优化步骤数对本地更新进行归一化,以校正异构环境中的聚合偏差的方法。
FedYogi
联邦学习的自适应优化器,将FedAvg与Yogi算法结合,以更好地适应非独立同分布数据分布。
FedAdam
FedAvg的变体,在服务器端集成Adam优化器,用于动态管理学习率并提高收敛性。
FedPer(联邦个性化)
将模型分为全局基础和本地个性化层的架构,允许针对每个客户端进行特定适应。
FedRep(联邦表示学习)
将表示学习(全局)和分类器学习(本地)分离的方法,以优化在异构数据上的性能。
FedCurv(联邦曲率)
结合Fisher曲率信息的算法,用于在客户端高度异构的场景中改进聚合效果。
FedSGD(联邦随机梯度下降)
基础变体,客户端在聚合前执行单次梯度传递,减少本地计算但增加通信开销。
FedDist(联邦蒸馏)
基于知识蒸馏的聚合方法,客户端共享softmax输出而非模型权重。
FedAdagrad
FedAvg与服务器端Adagrad优化器的结合,根据梯度历史调整学习率。
FedBN+(联邦批量归一化增强版)
FedBN的高级扩展,使用本地和全局混合归一化统计来平衡泛化与个性化。
FedMLD (联邦多层蒸馏)
一种应用于模型多层的蒸馏技术,用于在异构客户端之间高效传递知识。
FedAMP (联邦自适应多代理)
使用多个自适应代理来表示客户端数据的不同分布,在聚合过程中进行优化的方法。
FedRL (联邦强化学习)
专门用于分布式强化学习模型的聚合范式,结合了局部最优策略。
FedCV (联邦计算机视觉)
一套专门用于处理分布式图像数据的计算机视觉模型的聚合算法集合。