পজিশনাল এনকোডিং
রোটারি পজিশনাল এনকোডিং
RoPE টেকনিক যা ক্যোয়ারী এবং কী এম্বেডিংগুলিতে তাদের পরম অবস্থানের ভিত্তিতে ম্যাট্রিক্স রোটেশন প্রয়োগ করে, অ্যাটেনশন গণনায় স্বাভাবিকভাবে অবস্থান তথ্য সংহত করে যখন ট্রান্সলেশনাল ইনভেরিয়েন্স বৈশিষ্ট্য সংরক্ষণ করে।
← ফিরে যান