Вычисления смешанной точности

Анализ численной устойчивости

Систематическая оценка влияния снижения точности на сходимость и конечную точность модели, выявление чувствительных слоев, требующих сохранения в FP32 в рамках стратегии смешанной точности.

← Назад