एआई शब्दावली
आर्टिफिशियल इंटेलिजेंस का पूर्ण शब्दकोश
ध्यान भार दृश्यांकन
एक ग्राफिकल तकनीक जो एक अनुक्रम के टोकन्स के बीच सांख्यिकीय ध्यान मानों का प्रतिनिधित्व करती है, रंग या आकार की तीव्रता का उपयोग करके महत्वपूर्ण संबंधों को मात्रात्मक रूप से दर्शाने के लिए।
हीट मैप्स
द्वि-आयामी मैट्रिक्स प्रतिनिधित्व जहां रंग ध्यान भारों की तीव्रता को कोडित करते हैं, जिससे उच्च ध्यान एकाग्रता वाले क्षेत्रों की तेजी से पहचान की जा सकती है।
ध्यान हेड्स विश्लेषण
मल्टी-हेड तंत्र के प्रत्येक सिर में व्यक्तिगत ध्यान पैटर्न का तुलनात्मक अध्ययन, जो सिरों के बीच कार्यात्मक विशेषज्ञता और अतिरेक को प्रकट करता है।
मल्टी-हेड ध्यान पैटर्न
एक ट्रांसफॉर्मर परत में विभिन्न ध्यान तंत्र का एक साथ दृश्यांकन, जो दर्शाता है कि प्रत्येक सिर कैसे विशिष्ट प्रकार के वाक्य-विन्यास या अर्थ संबंधों को कैप्चर करता है।
सेल्फ-अटेंशन मैट्रिक्स
एक वर्ग मैट्रिक्स जो एक ही अनुक्रम में सभी टोकन जोड़ों के बीच ध्यान भार का प्रतिनिधित्व करती है, जहां प्रत्येक तत्व (i,j) टोकन j के टोकन i पर प्रभाव को इंगित करता है।
क्रॉस-अटेंशन दृश्यांकन
दो अलग-अलग अनुक्रमों के बीच ध्यान भारों का ग्राफिकल प्रतिनिधित्व, जो आमतौर पर एन्कोडर-डिकोडर मॉडल में स्रोत-लक्ष्य संरेखण को देखने के लिए उपयोग किया जाता है।
अटेंशन रोलआउट
एक पुनरावर्ती प्रसार विधि जो ध्यान भारों को लगातार परतों के माध्यम से प्रसारित करती है ताकि किसी टोकन का मॉडल के अंतिम पूर्वानुमानों पर संचयी प्रभाव की गणना की जा सके।
ध्यान प्रवाह
एक दृश्यांकन तकनीक जो दर्शाती है कि जानकारी ट्रांसफॉर्मर परतों के माध्यम से कैसे प्रवाहित होती है, टोकन के बीच ध्यान प्रभाव पथों को ट्रेस करके।
ग्रेडिएंट-आधारित ध्यान
ध्यान भारों के संबंध में आउटपुट के ग्रेडिएंट्स का उपयोग करने वाली दृष्टिकोण जो मॉडल की भविष्यवाणी के लिए सबसे प्रासंगिक योगदानों की पहचान करती है।
टोकन-से-टोकन ध्यान
टोकन के बीच सीधे ध्यान युग्म संबंधों का दृश्यता, जो इनपुट अनुक्रम में स्थानीय और वैश्विक निर्भरताओं की पहचान करने में सहायता करता है।
परत-वार ध्यान विश्लेषण
नेटवर्क के विभिन्न गहराइयों में ध्यान पैटर्न की तुलनात्मक जांच, जो निचली परतों से ऊपरी परतों तक अमूर्त प्रतिनिधित्वों के विकास को प्रकट करती है।
ध्यान प्रक्षेपवक्र
अनुमान या प्रशिक्षण के दौरान ध्यान भारों के विकास की समय-आधारित दृश्यता, जो दर्शाती है कि पैटर्न कैसे स्थिर होते हैं या गतिशील रूप से बदलते हैं।
ध्यान महत्व मैप्स
इनपुट टेक्स्ट पर सुपरइम्पोज़्ड हीट मैप्स जो सबसे अधिक ध्यान प्राप्त करने वाले टोकन को उजागर करते हैं, मॉडल के निर्णयों की व्याख्या में सहायता करते हैं।
ध्यान प्रसार
तकनीक जो यह ट्रेस करती है कि ध्यान संकेत नेटवर्क के माध्यम से कैसे प्रसारित और तीव्र होते हैं, निर्णय लेने के लिए महत्वपूर्ण पथों का पता लगाती है।
ध्यान प्रक्षेपण
उच्च-आयामी ध्यान भारों को दृश्यणीय 2D/3D स्थानों में आयामी रूप से कम करना, t-SNE या UMAP जैसी तकनीकों का उपयोग करके समान पैटर्न के क्लस्टर की पहचान करना।
ध्यान क्लस्टरिंग
ध्यान तंत्र में आवर्ती व्यवहार या कार्यात्मक विशेषज्ञताओं की पहचान करने के लिए समान ध्यान पैटर्न का स्वचालित रूप से समूहीकरण।
ध्यान पैटर्न वर्गीकरण
ध्यान पैटर्न के प्रकारों (वाक्यात्मक, अर्थगत, स्थानिक) का स्वचालित वर्गीकरण जो उनकी संरचनात्मक और वितरणात्मक विशेषताओं पर आधारित है।