এআই গ্লসারি

📖

শব্দ

রোটারি পজিশন এম্বেডিং

আপেক্ষিক অবস্থানের উপর ভিত্তি করে এম্বেডিংগুলিতে জটিল ঘূর্ণন প্রয়োগ করে অবস্থানগত এনকোডিংয়ের একটি কৌশল। অবস্থানগত সম্পর্ক কার্যকরভাবে এনকোড করার সময় পরম অপরিবর্তনীয়তার বৈশিষ্ট্য সংরক্ষণ করে।

📖

শব্দ

আলিবি পজিশন এনকোডিং

টোকেনগুলির মধ্যে দূরত্বের উপর ভিত্তি করে অ্যাটেনশন স্কোরগুলিতে রৈখিক পক্ষপাত যোগ করে অবস্থানগত এনকোডিংয়ের একটি পদ্ধতি। পুনরায় প্রশিক্ষণ ছাড়াই দীর্ঘতর ক্রমগুলিতে আরও ভাল এক্সট্রাপোলেশন ermöglicht।

📖

শব্দ

অ্যাটেনশন প্রজেকশন ম্যাট্রিক্স

এম্বেডিংগুলিকে ক্যুয়ারি, কী, ভ্যালুতে রূপান্তরিত করে এবং মাল্টি-হেড আউটপুটগুলিকে একত্রিত করে এমন শেখার যোগ্য ওজন ম্যাট্রিক্স Wq, Wk, Wv এবং Wo। এই রৈখিক অভিক্ষেপগুলি অ্যাটেনশন মেকানিজমের প্রধান পরামিতি।