এআই গ্লসারি
কৃত্রিম বুদ্ধিমত্তার সম্পূর্ণ অভিধান
সাইনুসয়েডাল পজিশনাল এনকোডিং
বিভিন্ন ফ্রিকোয়েন্সির সাইনুসয়েডাল ফাংশন ব্যবহার করে অনন্য ও নির্ধারিত অবস্থান উপস্থাপনা তৈরি করার পদ্ধতি, কোনো প্যারামিটার শেখা ছাড়াই।
লার্নড পজিশনাল এনকোডিং
একটি পদ্ধতি যেখানে অবস্থান এম্বেডিংগুলি মডেলের প্রশিক্ষণযোগ্য প্যারামিটার হিসেবে শেখা হয়, নির্দিষ্ট প্রশিক্ষণ ডেটার সাথে অভিযোজিত অপ্টিমাইজেশন সম্ভব করে।
রিলেটিভ পজিশনাল এনকোডিং
একটি উন্নত কৌশল যা টোকেনগুলির পরম অবস্থানের পরিবর্তে তাদের মধ্যে আপেক্ষিক দূরত্ব এনকোড করে, পরিবর্তনশীল সিকোয়েন্স দৈর্ঘ্যে সাধারণীকরণ উন্নত করে।
এবসলিউট পজিশনাল এনকোডিং
পজিশনাল এনকোডিংয়ের ঐতিহ্যবাহী পদ্ধতি যেখানে সিকোয়েন্সের প্রতিটি অবস্থান তার পরম সূচকের ভিত্তিতে একটি অনন্য এম্বেডিং পায়।
রোটারি পজিশনাল এনকোডিং (RoPE)
একটি উদ্ভাবনী কৌশল যা ক্যুয়েরি এবং কী এম্বেডিংগুলিতে ম্যাট্রিক্স রোটেশন প্রয়োগ করে, অবস্থান তথ্যকে সরাসরি অ্যাটেনশন মেকানিজমে কার্যকরভাবে সংযুক্ত করে।
আলিবি পজিশনাল এনকোডিং
একটি পদ্ধতি যা টোকেনগুলির মধ্যে দূরত্বের ভিত্তিতে অ্যাটেনশন স্কোরগুলিকে শাস্তি দেয়, পুনঃপ্রশিক্ষণ ছাড়াই দীর্ঘ সিকোয়েন্স দৈর্ঘ্যে কার্যকর এক্সট্রাপোলেশন সম্ভব করে।
পজিশন এম্বেডিংস
সিকোয়েন্সে প্রতিটি টোকেনের অবস্থান উপস্থাপনকারী ঘন ভেক্টর, স্থানিক বা সময়গত অবস্থান তথ্য প্রদানের জন্য টোকেন এম্বেডিংগুলিতে যোগ বা সংযুক্ত করা হয়।
পজিশনাল এনকোডিং সহ অ্যাটেনশন
মডেলকে সিকোয়েন্সে তাদের আপেক্ষিক অবস্থানের ভিত্তিতে ভিন্নভাবে টোকেনগুলিকে ওজন দিতে সক্ষম করার জন্য অ্যাটেনশন মেকানিজমে পজিশনাল এনকোডিং সংযুক্ত করা।
BERT পজিশনাল এম্বেডিংস
BERT আর্কিটেকচারে ব্যবহৃত শেখা পজিশনাল এনকোডিং-এর নির্দিষ্ট বাস্তবায়ন, যা ৫১২ টোকেনের একটি নির্দিষ্ট সর্বোচ্চ সিকোয়েন্স দৈর্ঘ্য সহ প্রশিক্ষণযোগ্য পজিশনাল এম্বেডিং ব্যবহার করে।
GPT পজিশনাল এনকোডিং
GPT মডেলগুলিতে ব্যবহৃত পজিশনাল এনকোডিং সিস্টেম, প্রাথমিকভাবে টেক্সটে দিকনির্দেশমূলক নির্ভরতা কার্যকরভাবে মডেল করার জন্য শেখা পজিশনাল এম্বেডিং-এর উপর ভিত্তি করে।
ট্রান্সফরমার পজিশনাল এনকোডিং
মূল ট্রান্সফরমার আর্কিটেকচারের অপরিহার্য উপাদান যা মডেলটিকে পুনরাবৃত্তিমূলক প্রক্রিয়া ছাড়াই টোকেনগুলির ক্রম ব্যবহার করতে সক্ষম করার জন্য সাইনুসয়েডাল এনকোডিং ব্যবহার করে।
3D পজিশনাল এনকোডিং
ভলিউম বা ভিডিওর মতো ত্রিমাত্রিক ডেটাতে পজিশনাল এনকোডিং-এর সম্প্রসারণ, যা তিনটি স্থানিক বা সময় অক্ষে অবস্থানের তথ্য অন্তর্ভুক্ত করে।
কমপ্লেক্স পজিশনাল এনকোডিং
জটিল সংখ্যা ব্যবহার করে অবস্থান উপস্থাপনের একটি উন্নত বৈকল্পিক, যা স্থানিক সম্পর্ক এবং একাধিক ফ্রিকোয়েন্সির সমৃদ্ধ মডেলিংয়ের অনুমতি দেয়।
হায়ারার্কিকাল পজিশনাল এনকোডিং
একটি কাঠামোগত পদ্ধতি যা একাধিক স্তরের সূক্ষ্মতায় অবস্থান এনকোড করে, সিকোয়েন্সে স্থানীয় এবং গ্লোবাল উভয় অবস্থান ক্যাপচার করে।
T5 পজিশনাল এনকোডিং
T5 আর্কিটেকচারে নির্দিষ্ট বাস্তবায়ন যা পারফরমেন্স বজায় রাখার সময় আর্কিটেকচার সরল করার জন্য ডিজাইন করা টোকেন এম্বেডিং-এ স্কেলার পজিশনাল এম্বেডিং যোগ করে।
XLNet রিলেটিভ পজিশনাল এনকোডিং
XLNet-এ একটি পরিশীলিত প্রক্রিয়া যা অ্যাটেনশন গণনায় টোকেনগুলির মধ্যে আপেক্ষিক দূরত্ব মডেল করে, বিভিন্ন সিকোয়েন্স দৈর্ঘ্যে উন্নত সাধারণীকরণের অনুমতি দেয়।
DeBERTa বিচ্ছিন্ন মনোযোগ
DeBERTa-তে উদ্ভাবন যা মনোযোগ প্রক্রিয়ায় বিষয়বস্তু এবং অবস্থানকে স্পষ্টভাবে পৃথক করে, উপস্থাপনা উন্নত করতে একটি বিচ্ছিন্ন অবস্থানগত এনকোডিং ব্যবহার করে।
Longformer অবস্থানগত এনকোডিং
দীর্ঘ অনুক্রম প্রক্রিয়াকরণের জন্য অভিযোজিত অবস্থানগত এনকোডিং সিস্টেম, স্লাইডিং উইন্ডো মনোযোগ অপ্টিমাইজ করতে গ্লোবাল এবং লোকাল অবস্থানগত এমবেডিং সংমিশ্রণ করে।
Reformer লোকালিটি সেনসিটিভ হ্যাশিং
Reformer-এ বিশেষায়িত কৌশল যা অত্যন্ত দীর্ঘ অনুক্রমের মনোযোগের গণনামূলক জটিলতা কমাতে অবস্থানগত এনকোডিং সহ LSH ব্যবহার করে।