रैखिक और कुशल ध्यान

कुशल ट्रांसफॉर्मर

ट्रांसफॉर्मर आर्किटेक्चर की एक श्रेणी जिसे ध्यान की द्विघात जटिलता को दूर करने के लिए डिज़ाइन किया गया है, जिसमें लंबी अनुक्रमों को संसाधित करने के लिए रैखिक, विरल या निम्न-रैंक ध्यान जैसी तकनीकों का उपयोग किया जाता है।

← पीछे