Вычисления смешанной точности

INT8 (8-битное целое число)

8-битный формат квантования, представляющий знаковые целые числа, в основном используемый для вывода (inference) для максимизации пропускной способности вычислений и минимизации энергопотребления аппаратных ускорителей.

← Назад