AI 詞彙表

📂

子類別

数据并行

一种将数据分布到多个处理器上，并行执行相同操作的技术。

2 術語

📂

子類別

模型并行

一种将神经网络的不同部分放置在不同计算设备上的方法。

8 術語

📂

子類別

流水线并行

一种结合数据并行和模型并行的方法，将模型划分为多个阶段，这些阶段被同时处理。

17 術語

📂

子類別

GPU 计算和 CUDA

利用图形处理器（GPU）和 CUDA 架构加速机器学习计算。

8 術語

📂

子類別

MPI分布式计算

消息传递接口，允许进程间通信，用于大规模分布式计算。

20 術語

📂

子類別

分布式框架

TensorFlow Distributed、PyTorch Distributed 和 Horovod 等平台用于分布式训练。

9 術語

📂

子類別

通信优化

最小化计算节点间通信带宽和延迟的技术。

7 術語

📂

子類別

同步策略

用于协调分布式梯度更新的同步、异步和半同步方法。

14 術語

📂

子類別

联邦学习

分布式学习，模型在本地的去中心化数据上进行训练，且不共享数据。

7 術語

📂

子類別

负载均衡

用于在可用计算资源之间均匀分配工作负载的算法。

9 術語

📂

子類別

机器学习容器编排

使用 Kubernetes 和 Docker Swarm 管理容器，用于部署分布式机器学习工作负载。

18 術語

📂

子類別

面向机器学习的边缘计算

靠近数据源的分布式计算，以降低延迟并保护隐私。

4 術語