机器学习基础设施管理

推理优化

一系列技术（量化、剪枝、蒸馏），旨在减少生产环境中推理阶段的模型延迟和内存消耗。

← 返回