TabNet

GLU (গেটেড লিনিয়ার ইউনিট)

ট্যাবনেটের ফিচার ট্রান্সফরমারে ব্যবহৃত অ্যাক্টিভেশন ফাংশন, যা একটি লিনিয়ার প্রজেকশনকে সিগময়েড গেট দ্বারা গুণ করে তথ্য প্রবাহ নিয়ন্ত্রণ করতে দেয়, জটিল সম্পর্ক মডেল করার নেটওয়ার্কের ক্ষমতা উন্নত করে।

← ফিরে যান