एआई शब्दावली
आर्टिफिशियल इंटेलिजेंस का पूर्ण शब्दकोश
Teacher-Student Architecture
एक फ्रेमवर्क जहां एक टीचर मॉडल सॉफ्ट टारगेट्स और रेग्युलराइज़ेशन के माध्यम से अपने अंतर्निहित ज्ञान को स्थानांतरित करके एक स्टूडेंट मॉडल को प्रशिक्षित करता है।
Feature Map Distillation
अंतिम पूर्वानुमानों के स्तर पर नहीं, बल्कि मॉडल के मध्यवर्ती प्रतिनिधित्व के स्तर पर ज्ञान का हस्तांतरण करने की विधि।
Attention Transfer
जटिल मॉडल द्वारा पहचानी गई महत्वपूर्ण क्षेत्रों को सुरक्षित रखने के लिए टीचर से स्टूडेंट में अटेंशन मैप्स का हस्तांतरण।
Relation Knowledge Distillation
व्यक्तिगत ज्ञान के बजाय ट्रेनिंग नमूनों के बीच संरचनात्मक संबंधों को सुरक्षित रखने वाला दृष्टिकोण।
Self-Distillation
एक प्रक्रिया जिसमें एक मॉडल अपने ज्ञान को अपने गहरे या बड़े संस्करण में स्थानांतरित करके स्वयं को बेहतर बनाता है।
Progressive Distillation
एक पुनरावृत्त आसवन विधि जहां स्टूडेंट मॉडल और अधिक कॉम्पैक्ट मॉडलों के लिए धीरे-धीरे टीचर बन जाता है।
Online Knowledge Distillation
एक ऐसा दृष्टिकोण जहां कई मॉडल पूर्व-प्रशिक्षित टीचर की आवश्यकता के बिना रीयल-टाइम में एक-दूसरे को प्रशिक्षित करते हैं।
Cross-Domain Distillation
ऐसी तकनीक जो अलग-अलग डोमेन में काम करने वाले लेकिन समान अंतर्निहित संरचनाओं वाले मॉडल के बीच ज्ञान का हस्तांतरण करती है।
डिस्टिलेशन द्वारा आजीवन अधिगम
सतत अधिगम के दौरान अर्जित ज्ञान को सुरक्षित रखने और आपदाजनक भूलने से बचने के लिए डिस्टिलेशन का अनुप्रयोग।
एनसेंबल डिस्टिलेशन
सामूहिक ज्ञान की विविधता को बनाए रखते हुए मॉडलों के एक समूह को एक अनूठे कॉम्पैक्ट मॉडल में संपीड़ित करना।
डिस्टिलेशन के साथ न्यूरल आर्किटेक्चर सर्च
प्रदर्शन को बनाए रखते हुए प्रभावी आर्किटेक्चर की खोज का मार्गदर्शन करने के लिए NAS प्रक्रिया में डिस्टिलेशन को एकीकृत करना।
कंट्रास्टिव नॉलेज डिस्टिलेशन
टीचर से स्टूडेंट की ओर विभेदक प्रतिनिधित्वों को स्थानांतरित करने के लिए सकारात्मक और नकारात्मक कंट्रास्ट का उपयोग करने वाली विधि।