AI 詞彙表
人工智能完整詞典
200
類別
2,608
子類別
30,011
術語
術語
异步联邦学习
一种分布式学习范式,其中客户端以独立方式更新全局模型,无需参与者之间的严格同步。
術語
随机收敛
一种数学特性,保证算法尽管存在异步更新和到达顺序的不确定性,仍能收敛到最优解。
術語
无锁更新
一种允许客户端修改全局模型而无需使用互斥机制的技术,从而减少瓶颈。
術語
时间偏移容忍度
系统在参与者客户端响应时间存在显著变化的情况下仍能保持性能的能力。
術語
动态加权聚合
一种更新聚合方法,其中权重根据客户端贡献的新鲜度和质量进行调整。
術語
更新缓冲区
临时数据结构,存储等待集成到全局模型中的客户端更新。
術語
异步选择策略
确定哪些客户端有资格参与每轮训练而无需集中协调的算法。
術語
可变通信延迟
在非同步分布式环境中,客户端与中央服务器之间传输时间的固有变化。
術語
最终一致性
一种一致性模型,保证如果不再进行新的更新,所有模型副本最终会收敛到相同状态。
術語
异步联邦平均算法
FedAvg的扩展版本,适用于异步环境,基于可用更新而非同步计算平均值。
術語
模型退化
在集成过时的异步更新时,模型性能暂时下降的现象。
術語
并行同步
一种混合方法,客户端组以异步方式并行工作,但在预定义的检查点同步结果。
術語
共享全局状态
多个客户端无需严格锁定机制即可同时访问的中央模型表示。
術語
分布式非凸优化
目标函数存在多个局部最小值,且无需同步即可分布式求解的优化问题。
術語
异步收敛定理
建立异步联邦学习算法收敛到稳定点的条件的理论框架。
術語
时间异质性
客户端在不同时间点的计算能力和可用性存在差异,影响其贡献频率。
術語
流量控制机制
调节同时更新数量的系统,以防止中央服务器过载,同时最大化吞吐量。
術語
参数陈旧性
在应用客户端更新时,相对于全局模型当前状态的更新过时程度的度量。
術語
异步梯度算法
梯度下降的一种变体,其中梯度计算和参数更新在没有时间协调的情况下执行。
術語
延迟补偿策略
调整延迟更新的技术,以减轻其陈旧性对模型收敛的负面影响。
🔍