AI 詞彙表
人工智能完整詞典
200
類別
2,608
子類別
30,011
術語
術語
GPU (图形处理单元)
最初为图形渲染设计的处理器，但其并行架构使其在加速深度学习算法的矩阵计算方面极为高效。
術語
TPU (张量处理单元)
由谷歌开发的专用集成电路(ASIC)，专门优化用于加速矩阵乘法运算和神经网络激活，尤其与TensorFlow框架配合使用。
術語
竞价实例
成本较低的云计算实例，价格可变且可能被供应商中断，通常用于可中断的机器学习训练任务。
術語
自动扩展
基础设施根据工作负载动态调整计算资源（服务器、容器组）数量的能力，以优化推理服务的成本和性能。
術語
模型服务框架
专门工具（如TensorFlow Serving、TorchServe、Triton推理服务器），旨在有效部署、服务和管理生产环境中的机器学习模型，处理版本控制和动态加载。
術語
混合云
结合公共云和私有（本地）计算资源的架构，使企业能够根据安全、成本和性能要求灵活调整其机器学习工作负载。
術語
机器学习流水线编排器
系统（如Kubeflow Pipelines、Airflow、Prefect），用于定义、执行、监控和编排复杂的机器学习工作流程，从数据准备到训练和部署。
術語
资源配额
云/本地资源管理机制，限制用户、项目或命名空间可消耗的CPU、GPU、内存或存储量，对于成本管理和资源公平分配至关重要。
術語
冷启动
在对无服务器推理服务的首次请求或新加载模型时观察到的初始延迟，由于资源配置和模型加载到内存的时间所致。
🔍