एआई शब्दावली
आर्टिफिशियल इंटेलिजेंस का पूर्ण शब्दकोश
एनकोडर-डिकोडर
द्विदिश आर्किटेक्चर जहां एनकोडर इनपुट अनुक्रम को प्रोसेस करता है और डिकोडर आउटपुट अनुक्रम उत्पन्न करता है। यह संरचना मशीन अनुवाद या टेक्स्ट सारांश जैसे परिवर्तन कार्यों को संभव बनाती है।
मास्क्ड अटेंशन
अटेंशन मैकेनिज्म जहां कुछ पोजीशन मास्क की जाती हैं ताकि मॉडल भविष्य की जानकारी तक पहुंच न सके। इनफेरेंस के दौरान ऑटो-रिग्रेसिव जनरेशन सुनिश्चित करने के लिए डिकोडर में आवश्यक है।
पोजीशन-वाइज फीड-फॉरवर्ड
न्यूरल नेटवर्क जो अनुक्रम की प्रत्येक पोजीशन पर समान और स्वतंत्र रूप से लागू किया जाता है। अटेंशन मैकेनिज्म के बाद गैर-रैखिकता शुरू करके प्रतिनिधित्व को रूपांतरित करता है।
अटेंशन वेट
सॉफ्टमैक्स द्वारा सामान्यीकृत स्कोर जो अटेंशन की गणना के दौरान प्रत्येक तत्व के सापेक्ष महत्व को निर्धारित करते हैं। इन वेट का उपयोग मानों के रैखिक संयोजन को भारित करने के लिए किया जाता है।
ड्रॉपआउट लेयर
रेगुलराइजेशन तकनीक जो ओवरफिटिंग को रोकने के लिए ट्रेनिंग के दौरान यादृच्छिक रूप से न्यूरॉन्स को निष्क्रिय कर देती है। ट्रांसफॉर्मर में अटेंशन और फीड-फॉरवर्ड लेयर्स के बाद लागू की जाती है।