एआई शब्दावली
आर्टिफिशियल इंटेलिजेंस का पूर्ण शब्दकोश
परिवर्तनीय बिट क्वांटाइज़ेशन
न्यूरल नेटवर्क अनुकूलन की एक तकनीक जो प्रत्येक वजन या सक्रियण के महत्व के आधार पर गतिशील रूप से अलग-अलग बिट्स की संख्या आवंटित करती है, जिससे मॉडल का आकार कम हो जाता है और प्रदर्शन बना रहता है।
गतिशील बिट आवंटन
एक एल्गोरिदम जो मॉडल के प्रत्येक पैरामीटर को सौंपे जाने वाले बिट्स की इष्टतम संख्या को स्वचालित रूप से निर्धारित करता है, इसके लिए यह उनकी संवेदनशीलता और नेटवर्क के समग्र प्रदर्शन पर उनके प्रभाव का विश्लेषण करता है।
मिश्रित-सटीकता क्वांटाइज़ेशन
एक हाइब्रिड दृष्टिकोण जो एक ही मॉडल में विभिन्न संख्यात्मक सटीकताओं को जोड़ता है, आमतौर पर महत्वपूर्ण परतों के लिए 8 बिट और कम संवेदनशील परतों के लिए 4 बिट या उससे कम का उपयोग करता है।
परत-संवेदी क्वांटाइज़ेशन
एक क्वांटाइज़ेशन विधि जो बिट आवंटन को अनुकूलित करने और प्रदर्शन में गिरावट को कम करने के लिए प्रत्येक तंत्रिका परत की सटीकता में कमी के प्रति संवेदनशीलता का विश्लेषण करती है।
एन्ट्रॉपी-आधारित क्वांटाइज़ेशन
एक तकनीक जो सूचना सिद्धांत के सिद्धांतों का उपयोग करती है ताकि वजनों के वितरण और उनकी सूचना एन्ट्रॉपी के आधार पर बिट्स की इष्टतम संख्या निर्धारित की जा सके।
असमान क्वांटाइज़ेशन
एक क्वांटाइज़ेशन रणनीति जो पैरामीटर के वितरण के अनुसार अनुकूलित परिवर्तनीय क्वांटाइज़ेशन चरणों का उपयोग करती है, जिससे चरम और बारंबार मानों का अधिक प्रभावी प्रतिनिधित्व होता है।
वजन-महत्व क्वांटाइज़ेशन
एक विधि जो मैग्निट्यूड या ग्रेडिएंट जैसे मेट्रिक्स के माध्यम से नेटवर्क में प्रत्येक वजन के महत्व का मूल्यांकन करती है, महत्वपूर्ण वजनों को अधिक बिट्स और अन्य को कम बिट्स आवंटित करती है।
अवकलनीय क्वांटाइज़ेशन
एक तकनीक जो पारंपरिक गैर-अवकलनीय राउंडिंग फ़ंक्शन के अवकलनीय अनुमानों का उपयोग करके क्वांटाइज़्ड मॉडल का एंड-टू-एंड प्रशिक्षण सक्षम बनाती है।
सीखने के साथ क्वांटाइज़ेशन
एक विधि जिसमें क्वांटाइज़ेशन पैरामीटर (बिट स्तर, क्वांटाइज़ेशन बिंदु) को मॉडल के वजन के साथ प्रशिक्षण के दौरान संयुक्त रूप से सीखा जाता है ताकि वैश्विक अनुकूलन प्राप्त किया जा सके।
समूहन-आधारित क्वांटाइज़ेशन
एक तकनीक जो समान वजनों को समूहित करती है और प्रत्येक समूह पर अनुकूली क्वांटाइज़ेशन लागू करती है, जिससे दोहराव वाले वजन संरचनाओं का अधिक प्रभावी प्रतिनिधित्व संभव होता है।
बहु-रिज़ॉल्यूशन क्वांटाइज़ेशन
एक दृष्टिकोण जो टेंसर के विभिन्न हिस्सों पर अलग-अलग क्वांटाइज़ेशन रिज़ॉल्यूशन लागू करता है, जिससे डेटा की स्थानीय और वैश्विक विशेषताओं का प्रतिनिधित्व अनुकूलित होता है।
वितरण-आधारित क्वांटाइज़ेशन
एक अनुकूली विधि जो गणना के प्रत्येक चरण में एक्टिवेशन और वजन के सांख्यिकीय वितरण के आधार पर क्वांटाइज़ेशन रणनीति को गतिशील रूप से समायोजित करती है।
बजट-बाध्य क्वांटाइज़ेशन
एक बाध्य अनुकूलन जो कुल बिट्स के निर्धारित बजट का सम्मान करते हुए मॉडल की सटीकता को अधिकतम करता है, और सभी पैरामीटर के बीच संसाधनों का बुद्धिमानी से वितरण करता है।
प्रगतिशील क्वांटाइज़ेशन
एक वृद्धिशील रणनीति जो आक्रामक क्वांटाइज़ेशन से शुरू होती है और आकार-प्रदर्शन के अनुकूल समझौते तक पहुँचने के लिए महत्वपूर्ण परतों की सटीकता को धीरे-धीरे बढ़ाती है।
एक्टिवेशन महत्व-आधारित क्वांटाइज़ेशन
एक विशेष तकनीक जो नेटवर्क में ग्रेडिएंट प्रचार में उनके योगदान और विचरण के आधार पर एक्टिवेशन का विश्लेषण करती है और अलग-अलग तरीके से क्वांटाइज़ करती है।