स्थैतिक प्रमापन
INT4 प्रतिनिधित्व
4-बिट इंटीजर्स (-8 से 7) का उपयोग करने वाला एक्सट्रीम क्वांटाइज़ेशन फॉर्मेट, जो मॉडल के आकार को काफी कम करता है लेकिन एक महत्वपूर्ण सटीकता हानि लाता है जिसके लिए विशेष क्षतिपूर्ति तकनीकों की आवश्यकता होती है।
← पीछे