এআই গ্লসারি
কৃত্রিম বুদ্ধিমত্তার সম্পূর্ণ অভিধান
মনোযোগ প্রক্রিয়া
প্রক্রিয়াকরণের সময় ইনপুটের বিভিন্ন অংশের গুরুত্ব ওজন করার জন্য মডেলকে সক্ষম করে।
Self-Attention
একটি প্রক্রিয়া যেখানে একটি ক্রমের প্রতিটি উপাদান একই ক্রমের অন্যান্য সমস্ত উপাদানের প্রতি মনোযোগ দেয়।
মাল্টি-হেড অ্যাটেনশন
বিভিন্ন ধরনের সম্পর্ক ধরার জন্য একসাথে একাধিক অ্যাটেনশন হেড ব্যবহার করে সেলফ-অ্যাটেনশনের সম্প্রসারণ।
Positional Encoding
Technique pour intégrer des informations de position dans les embeddings sans utiliser de RNN.
এনকোডার-ডিকোডার আর্কিটেকচার
বুঝতে এনকোডার এবং তৈরি করতে ডিকোডার সহ ট্রান্সফরমারগুলোর মৌলিক কাঠামো।
স্কেলড ডট-প্রোডাক্ট অ্যাটেনশন
ট্রান্সফরমারগুলিতে অ্যাটেনশন গণনার মৌলিক গাণিতিক রূপ যা স্কেলিং সহ সম্পন্ন হয়।
Feed-Forward Networks
Réseaux fully-connected appliqués après chaque couche d'attention dans les Transformers.
লেয়ার নরমালাইজেশন
ট্রান্সফরমারগুলিতে প্রশিক্ষণ স্থিতিশীল করার জন্য প্রয়োগ করা একটি স্বাভাবিকীকরণ কৌশল।
অ্যাটেনশন মাস্ক
যে প্রক্রিয়ার মাধ্যমে নির্ধারণ করা হয় কোন টোকেনগুলি অন্যান্য টোকেনের উপর মনোযোগ দিতে পারবে।
Vision Transformers (ViT)
Application de l'architecture Transformer au traitement d'images en divisant les images en patches.
BERT আর্কিটেকচার
মাস্কড ল্যাঙ্গুয়েজ মডেলিং উদ্দেশ্য সহ ট্রান্সফরমার এনকোডার-শুধু প্রাক-প্রশিক্ষিত।
GPT আর্কিটেকচার
ট্রান্সফরমার ডিকোডার-অনলি টেক্সট জেনারেশনের জন্য অপ্টিমাইজড, অটোরিগ্রেসিভ পদ্ধতিতে।
ক্রস-অ্যাটেনশন
এনকোডার-ডিকোডারে দুটি ভিন্ন সিকোয়েন্সের মধ্যে অ্যাটেনশন মেকানিজম।
স্পার্স অ্যাটেনশন
মনোযোগের একটি রূপ যা শুধুমাত্র নির্বাচিত জোড়া গণনা করে জটিলতা হ্রাস করে।
হায়ারার্কিক্যাল অ্যাটেনশন
বিভিন্ন স্তরের সূক্ষ্মতার স্কেলে মনোযোগ প্রয়োগ করে এমন বহু-স্তরীয় স্থাপত্য।
মনোযোগ ভিজ্যুয়ালাইজেশন
ট্রান্সফরমারগুলির মনোযোগ ওজন ব্যাখ্যা এবং ভিজ্যুয়ালাইজ করার কৌশল।
ট্রান্সফরমার অপ্টিমাইজেশন
বৃহৎ ট্রান্সফরমার মডেলগুলির দক্ষ প্রশিক্ষণের জন্য নির্দিষ্ট পদ্ধতি।
মাল্টি-মোডাল ট্রান্সফরমার্স
একই সময়ে একাধিক ধরনের ডেটা প্রক্রিয়া করার জন্য বর্ধিত ট্রান্সফরমার আর্কিটেকচার।
Efficient Transformers
কম্পিউটেশনাল জটিলতা কমানোর জন্য ট্রান্সফরমারের অপ্টিমাইজড বৈকল্পিক।
অ্যাটেনশন মেকানিজমের ভেরিয়েন্ট
ডট-প্রোডাক্টের বাইরে অ্যাটেনশন মেকানিজমের বিভিন্ন পদ্ধতি এবং উন্নতি।