এআই গ্লসারি
কৃত্রিম বুদ্ধিমত্তার সম্পূর্ণ অভিধান
মনোযোগ প্রক্রিয়া
গাণিতিক ভিত্তি যা মডেলগুলিকে ডেটা সিকোয়েন্সের উপাদানগুলির আপেক্ষিক গুরুত্ব ওজন করার অনুমতি দেয়।
স্ব-মনোযোগ
একটি প্রক্রিয়া যেখানে একটি ক্রমের প্রতিটি উপাদান একই ক্রমের অন্যান্য সমস্ত উপাদানের সাথে তার মনোযোগ গণনা করে।
মাল্টি-হেড অ্যাটেনশন
বিভিন্ন ধরনের সম্পর্ক ধারণ করার জন্য একাধিক অ্যাটেনশন হেড সমান্তরালে ব্যবহার করে অ্যাটেনশনের সম্প্রসারণ।
পজিশনাল এনকোডিং
আরএনএন ব্যবহার না করে ক্রমানুসারে উপাদানগুলির অবস্থান এমবেডিংয়ে অন্তর্ভুক্ত করার কৌশল।
এনকোডার-ডিকোডার আর্কিটেকচার
ট্রান্সফরমারগুলির মৌলিক কাঠামো যা ইনপুট প্রক্রিয়াকরণ (এনকোডার) এবং আউটপুট জেনারেশন (ডিকোডার) আলাদা করে।
Attention Scaling
প্রশিক্ষণ স্থিতিশীল করতে এবং বিস্ফোরক গ্রেডিয়েন্ট এড়াতে মাত্রার বর্গমূল দ্বারা স্বাভাবিকীকরণ।
ক্রস-অ্যাটেনশন
দুটি ভিন্ন সিকোয়েন্সের মধ্যে অ্যাটেনশন মেকানিজম, যা অনুবাদ এবং মাল্টিমোডাল কাজে ব্যবহৃত হয়।
স্পার্স অ্যাটেনশন
গণনাগত জটিলতা কমানোর জন্য শুধুমাত্র অবস্থানের একটি উপসেটে গণনা করা অ্যাটেনশনের একটি রূপ।
অ্যাটেনশন মাস্ক
নিয়ন্ত্রণ প্রক্রিয়া যা তথ্য ফাঁস এড়াতে মনোযোগ গণনার সময় নির্দিষ্ট অবস্থানগুলি লুকিয়ে রাখতে সক্ষম।
Vision Transformers
Transformer আর্কিটেকচারকে কম্পিউটার ভিশন কাজের জন্য অভিযোজিত করা, যেখানে ছবিগুলোকে প্যাচের ক্রম হিসেবে প্রক্রিয়া করা হয়।
Efficient Attention
মানক মনোযোগের দ্বিঘাত জটিলতা হ্রাস করার লক্ষ্যে অপ্টিমাইজেশনের একটি সেট, দীর্ঘতর ক্রমের জন্য।
হায়ারার্কিক্যাল অ্যাটেনশন
ডেটার বিভিন্ন স্তরে সম্পর্ক ধারণকারী মাল্টি-লেভেল অ্যাটেনশন স্ট্রাকচার।