Оптимизация тензорных ядер

TensorFloat-32 (TF32)

Гибридный числовой формат NVIDIA, использующий 8 бит экспоненты (как в FP32) и 10 бит мантиссы (как в FP16), обеспечивающий оптимальный компромисс между динамическим диапазоном и точностью для тензорных ядер Ampere.

← Назад