এআই গ্লসারি
কৃত্রিম বুদ্ধিমত্তার সম্পূর্ণ অভিধান
মনোযোগ প্রক্রিয়া
ট্রান্সফরমারগুলির জন্য একটি মৌলিক উপাদান যা একটি ক্রমের বিভিন্ন অংশের গুরুত্ব ওজন করতে সক্ষম করে
এনকোডার এবং ডিকোডার
ট্রান্সফরমারের মৌলিক স্থাপত্য কাঠামো যেখানে দুটি প্রধান উপাদান ক্রম প্রক্রিয়াকরণ এবং উৎপাদনের জন্য রয়েছে
পজিশনাল এনকোডিং
রিকারেন্স ব্যবহার না করে এম্বেডিংয়ে অবস্থানগত তথ্য অন্তর্ভুক্ত করার কৌশল
মাল্টি-হেড অ্যাটেনশন
বিভিন্ন ধরনের সম্পর্ক ক্যাপচার করার জন্য একইসাথে একাধিক অ্যাটেনশন হেড ব্যবহার করে অ্যাটেনশন মেকানিজমের সম্প্রসারণ
BERT
প্রি-ট্রেনড দ্বিমুখী ট্রান্সফরমার এনকোডার ভিত্তিক বিপ্লবী মডেল
GPT
Série de modèles génératifs basés sur le décodeur des transformeurs pour la génération de texte
Vision Transformers
কম্পিউটার ভিশন কাজে ট্রান্সফরমার আর্কিটেকচারের প্রয়োগ, যেখানে ছবিগুলোকে ক্রম হিসেবে প্রক্রিয়া করা হয়
Self-Attention
একটি প্রক্রিয়া যা একটি ক্রমের প্রতিটি উপাদানকে একই ক্রমের অন্যান্য সমস্ত উপাদানের সাথে মিথস্ক্রিয়া করতে দেয়
ক্রস-অ্যাটেনশন
দুটি ভিন্ন সিকোয়েন্সের মধ্যে অ্যাটেনশন মেকানিজম, অনুবাদ কাজে অত্যন্ত গুরুত্বপূর্ণ
Transformer-XL
প্রসঙ্গ বিচ্ছিন্নতা ছাড়াই দীর্ঘমেয়াদী নির্ভরতা মডেল করতে সক্ষম ট্রান্সফরমারগুলির একটি এক্সটেনশন
T5
NLP-এর সমস্ত কাজকে একই ইনপুট-আউটপুট টেক্সট ফরম্যাটে একত্রিতকারী টেক্সট-টু-টেক্সট মডেল
Sparse Attention
Variantes d'attention efficaces réduisant la complexité computationnelle en limitant les connexions
লেয়ার নরমালাইজেশন
গভীর ট্রান্সফরমারগুলির প্রশিক্ষণ স্থিতিশীল করার জন্য অপরিহার্য স্বাভাবিকীকরণ কৌশল
ফিড-ফরওয়ার্ড নেটওয়ার্কস
ট্রান্সফরমার স্তরে প্রতিটি অবস্থানে প্রয়োগ করা সম্পূর্ণ সংযুক্ত নেটওয়ার্ক
অ্যাটেনশন মাস্ক
এমন একটি প্রক্রিয়া যা নিয়ন্ত্রণ করে কোন টোকেনগুলি একে অপরের দিকে মনোযোগ দিতে পারে