الحوسبة بدقة مختلطة

تراكم التدرج في الدقة المختلطة

تقنية حيث يتم تجميع التدرجات المحسوبة بدقة FP16 في مخزن مؤقت بدقة FP32 قبل تحديث الأوزان، مما يمنع فقدان الدقة أثناء التجميع على عدة دفعات صغيرة.

← رجوع