Efficient Transformers

লোকাল অ্যাটেনশন

প্রতিটি অবস্থানের চারপাশের স্থানীয় এলাকায় সীমাবদ্ধ অ্যাটেনশন মেকানিজম, বিবেচনা করার টোকেন জোড়ার সংখ্যা ব্যাপকভাবে হ্রাস করে। শক্তিশালী স্থানীয় কাঠামো সহ ডেটার জন্য এই পদ্ধতি বিশেষভাবে কার্যকর।

← ফিরে যান