এআই গ্লসারি
কৃত্রিম বুদ্ধিমত্তার সম্পূর্ণ অভিধান
238
বিভাগ
3,112
উপ-বিভাগ
36,890
শব্দ
শব্দ
QKV প্রজেকশন
কোয়েরি, কী এবং ভ্যালু টেনসর তৈরি করার জন্য ইনপুট এম্বেডিংয়ে প্রয়োগ করা রৈখিক রূপান্তর, যা অ্যাটেনশন গণনার জন্য প্রয়োজনীয়।
শব্দ
হেড ডাইমেনশন
মাল্টি-হেড অ্যাটেনশনে প্রতিটি অ্যাটেনশন হেডের মাত্রা, যা মডেলের মাত্রাকে হেডের সংখ্যা দিয়ে ভাগ করে গণনা করা হয়।
শব্দ
রিলেটিভ পজিশন অ্যাটেনশন
অ্যাটেনশন মেকানিজমের একটি সম্প্রসারণ যা সিকোয়েন্সিয়াল নির্ভরতা মডেলিং উন্নত করার জন্য অবস্থানের মধ্যে আপেক্ষিক দূরত্ব স্পষ্টভাবে অন্তর্ভুক্ত করে।
শব্দ
অ্যাটেনশন হেড প্রুনিং
কম্পিউটেশনাল জটিলতা কমানোর জন্য অপ্রয়োজনীয় বা কম গুরুত্বপূর্ণ অ্যাটেনশন হেড অপসারণের একটি অপ্টিমাইজেশন কৌশল।
🔍