एआई शब्दावली
आर्टिफिशियल इंटेलिजेंस का पूर्ण शब्दकोश
मल्टी-हेड सेल्फ-अटेंशन
एक मूलभूत तंत्र जो मॉडल को कई ध्यान अभ्यावेदन के साथ अनुक्रम में विभिन्न स्थितियों पर एक साथ ध्यान केंद्रित करने की अनुमति देता है।
पोजीशनल एन्कोडिंग
एक ऐसी तकनीक जो टोकन की स्थिति के बारे में जानकारी को अनुक्रमों में एकीकृत करने की अनुमति देती है, क्योंकि ट्रांसफॉर्मर में आंतरिक पुनरावृत्ति नहीं होती है।
एनकोडर-डिकोडर आर्किटेक्चर
द्विदिश संरचना जहाँ एनकोडर इनपुट अनुक्रम को संसाधित करता है और डिकोडर आउटपुट अनुक्रम उत्पन्न करता है, जिसका उपयोग अनुवाद कार्यों में किया जाता है।
BERT और मास्क्ड एलएम मॉडल
टोकन मास्किंग के उद्देश्य से पूर्व-प्रशिक्षित मॉडल, द्विदिश प्रासंगिक प्रतिनिधित्व के साथ एनएलपी में क्रांति ला रहे हैं।
जीपीटी और ऑटोरेग्रेसिव मॉडल
डिकोडर-ओनली पर आधारित आर्किटेक्चर जो टोकन दर टोकन टेक्स्ट उत्पन्न करता है, पिछले टोकन के आधार पर अगले टोकन की भविष्यवाणी करता है।
विजन ट्रांसफॉर्मर (ViT)
कंप्यूटर विजन कार्यों के लिए ट्रांसफॉर्मर का अनुकूलन, छवियों को पैच के अनुक्रम के रूप में संसाधित करना।
रैखिक और कुशल ध्यान
ध्यान के ऐसे प्रकार जो लंबी अनुक्रमों को कुशलता से संसाधित करने के लिए द्विघात जटिलता को रैखिक जटिलता में कम करते हैं।
मल्टीमॉडल ट्रांसफॉर्मर
एक एकीकृत वास्तुकला जो एक ही प्रतिनिधित्व स्थान में एक साथ कई तौर-तरीकों (पाठ, छवि, ऑडियो) को संसाधित करती है।
फाइन-ट्यूनिंग और प्रॉम्प्ट इंजीनियरिंग
कम प्रशिक्षण डेटा के साथ विशिष्ट कार्यों के लिए पूर्व-प्रशिक्षित मॉडलों को अनुकूलित करने की तकनीकें।
ध्यान तंत्रों की व्याख्यात्मकता
मॉडल के निर्णयों को समझने और सीखी गई निर्भरताओं को पहचानने के लिए ध्यान भारों का अध्ययन और दृश्यावलोकन।
ऑडियो के लिए ट्रांसफॉर्मर
ऑडियो प्रोसेसिंग, वाक् पहचान और संगीत निर्माण कार्यों के लिए ट्रांसफॉर्मर आर्किटेक्चर का अनुप्रयोग।
विरल ध्यान
ध्यान के ऐसे रूपांतर जो गणनात्मक और स्मृति जटिलता को कम करने के लिए केवल स्थितियों के एक उपसमुच्चय पर विचार करते हैं।