एआई शब्दावली
आर्टिफिशियल इंटेलिजेंस का पूर्ण शब्दकोश
स्केल और जीरो-पॉइंट
क्वांटाइज़ेशन के मौलिक पैरामीटर जहां स्केल फ्लोटिंग-पॉइंट और इंटीजर के बीच रूपांतरण फैक्टर को परिभाषित करता है, जबकि जीरो-पॉइंट फ्लोटिंग-पॉइंट जीरो के अनुरूप इंटीजर वैल्यू का प्रतिनिधित्व करता है।
INT8 प्रतिनिधित्व
भार (weights) और एक्टिवेशन का प्रतिनिधित्व करने के लिए 8-बिट साइन्ड इंटीजर्स (-128 से 127) का उपयोग करने वाला क्वांटाइज़ेशन फॉर्मेट, जो अधिकांश हार्डवेयर पर सटीकता और कम्प्यूटेशनल प्रदर्शन के बीच एक इष्टतम समझौता प्रदान करता है।
INT4 प्रतिनिधित्व
4-बिट इंटीजर्स (-8 से 7) का उपयोग करने वाला एक्सट्रीम क्वांटाइज़ेशन फॉर्मेट, जो मॉडल के आकार को काफी कम करता है लेकिन एक महत्वपूर्ण सटीकता हानि लाता है जिसके लिए विशेष क्षतिपूर्ति तकनीकों की आवश्यकता होती है।
एक्टिवेशन वितरण
कैलिब्रेशन डेटासेट पर न्यूरल लेयर्स के आउटपुट वैल्यूज़ का सांख्यिकीय विश्लेषण, जो इष्टतम क्वांटाइज़ेशन रेंज निर्धारित करने और सूचना हानि को कम करने के लिए महत्वपूर्ण है।
डायनामिक रेंज
एक्टिवेशन या भार के न्यूनतम और अधिकतम मानों के बीच का अंतर, जो क्वांटाइज़ेशन रिज़ॉल्यूशन निर्धारित करता है और क्वांटाइज़्ड मॉडल की सटीकता को सीधे प्रभावित करता है।
क्वांटाइज़ेशन बायस
कम सटीकता वाले प्रतिनिधित्व में रूपांतरण द्वारा पेश किया गया सिस्टमैटिक डेविएशन, जिसे कैलिब्रेशन के दौरान सांख्यिकीय समायोजन तकनीकों द्वारा क्षतिपूर्ति की जा सकती है।
LUT लुक-अप टेबल
एक प्री-कंप्यूटेड डेटा स्ट्रक्चर जो क्वांटाइज़्ड और डीक्वांटाइज़्ड वैल्यूज़ के बीच मैपिंग स्टोर करता है, गणना को तेज़ करने के लिए इन्फेरेंस के दौरान रूपांतरण ऑपरेशन को ऑप्टिमाइज़ करता है।
सटीकता हानि
संख्यात्मक सटीकता में कमी के कारण मॉडल के प्रदर्शन में मापने योग्य गिरावट, जिसे एक्यूरेसी में गिरावट या प्रेडिक्शन एरर में वृद्धि जैसे मेट्रिक्स द्वारा मूल्यांकन किया जाता है।
वजन अनुकूलन
क्वांटाइज़ेशन के बाद मॉडल के वजन को फाइन-ट्यून करने की प्रक्रिया, जिससे हुई गलतियों की भरपाई की जाती है, इसमें बायस सुधार या बैच एडजस्टमेंट जैसी तकनीकों का उपयोग होता है।
मिन-मैक्स कैलिब्रेशन
क्वांटाइज़ेशन रेंज निर्धारित करने के लिए डेटासेट में देखे गए चरम मानों का उपयोग करने वाली एक कैलिब्रेशन तकनीक, यह सरल है लेकिन आउटलायर्स के प्रति संवेदनशील है जो सटीकता को खराब कर सकती है।
परसेंटाइल कैलिब्रेशन
चरम मानों के बजाय परसेंटाइल (जैसे: 99.9%) का उपयोग करने वाली एक मजबूत कैलिब्रेशन विधि, जो आउटलायर्स के प्रभाव से बचती है और डायनामिक रेंज के उपयोग को अनुकूलित करती है।
प्रति-परत क्वांटाइज़ेशन
एक लेयर के सभी वजनों पर समान क्वांटाइज़ेशन पैरामीटर लागू करने की दृष्टिकोण, जो कार्यान्वयन को सरल बनाती है लेकिन विविध वितरण वाले वजनों के लिए संभावित रूप से अनुकूल नहीं हो सकती है।
प्रति-चैनल क्वांटाइज़ेशन
एक कनवल्शनल लेयर के प्रत्येक आउटपुट चैनल को स्वतंत्र रूप से क्वांटाइज़ करने वाली एक उन्नत तकनीक, जो थोड़ी बढ़ी हुई गणनात्मक जटिलता की कीमत पर सटीकता को बेहतर बनाए रखती है।