এআই গ্লসারি
কৃত্রিম বুদ্ধিমত্তার সম্পূর্ণ অভিধান
ALBERT
BERT-এর একটি হালকা সংস্করণ যা এম্বেডিং শেয়ারিং এবং ম্যাট্রিক্স ফ্যাক্টরাইজেশন ব্যবহার করে উল্লেখযোগ্যভাবে প্যারামিটার হ্রাস করে। মেমরি দক্ষতার সাথে প্রতিযোগিতামূলক কর্মক্ষমতা বজায় রাখে।
ELECTRA
একটি দক্ষ প্রি-ট্রেনিং আর্কিটেকচার যা মাস্কড ল্যাঙ্গুয়েজ মডেলিং-এর পরিবর্তে দূষিত টোকেন প্রতিস্থাপন ব্যবহার করে। একটি ডিসক্রিমিনেটর ব্যবহার করে যা প্রতিস্থাপিত টোকেন সনাক্ত করে, দ্রুত এবং আরও ভালো প্রশিক্ষণ সক্ষম করে।
ERNIE
একটি চীনা মডেল যা ট্রান্সফরমার বেস আর্কিটেকচারে কাঠামোগত এবং শ্রেণীবদ্ধ জ্ঞান একীভূত করে। একই সাথে শব্দ, সত্তা এবং বাক্য মাস্ক করে মাল্টি-লেভেল শব্দার্থবিদ্যা ক্যাপচার করার জন্য।
BART
একটি দ্বিমুখী এবং অটোরিগ্রেসিভ ট্রান্সফরমার আর্কিটেকচার যা BERT এবং GPT-এর সুবিধাগুলি একত্রিত করে। প্রি-ট্রেনিং-এর জন্য টেক্সট করাপশন সহ একটি এনকোডার-ডিকোডার ব্যবহার করে, জেনারেশন টাস্কের জন্য চমৎকার।
Funnel Transformers
একটি শ্রেণীবদ্ধ আর্কিটেকচার যা স্তরগুলির মাধ্যমে ক্রমান্বয়ে সিকোয়েন্সের দৈর্ঘ্য হ্রাস করে যখন গুরুত্বপূর্ণ তথ্য সংরক্ষণ করে। দীর্ঘ সিকোয়েন্সের জন্য গণনামূলক মেমরি উল্লেখযোগ্যভাবে সাশ্রয় করে।
DeBERTa
BERT-এর উন্নতি যা ডিকোডিং এনহ্যান্সমেন্টকে বিচ্ছিন্ন কন্টেন্ট এবং পজিশন অ্যাটেনশনের সাথে একীভূত করে। উন্নত পারফরম্যান্সের জন্য ডিসএনট্যাঙ্গল্ড অ্যাটেনশন মেকানিজম এবং এনহ্যান্সড স্কেল মাস্কিং ব্যবহার করে।
TinyBERT
BERT-এর একটি আল্ট্রা-কম্প্যাক্ট সংস্করণ যা উচ্চ পারফরম্যান্স বজায় রেখে প্যারামিটার 7.5 গুণ পর্যন্ত হ্রাস করে। কম্প্রেশনের জন্য বাইডিরেকশনাল ডিস্টিলেশন এবং মাল্টি-লেভেল অ্যাটেনশন প্রয়োগ করে।
CamemBERT
ফরাসি ভাষার জন্য BERT-এর একটি সংস্করণ যা 138GB ফরাসি টেক্সটে প্রি-ট্রেন করা। মূল BERT আর্কিটেকচার বজায় রাখে কিন্তু ফরাসি ভাষা বোঝা এবং প্রক্রিয়াকরণের জন্য বিশেষায়িত।
FlauBERT
ফরাসি ভাষার ট্রান্সফরমার-ভিত্তিক ভাষা মডেল যা ক্রমবর্ধমান বৃহত্তর কর্পাস ব্যবহার করে ধাপে ধাপে প্রাক-প্রশিক্ষণ নেয়। সর্বোত্তম কর্মক্ষমতার জন্য ফরাসি ভাষার ভাষাগত বৈশিষ্ট্যগুলি একীভূত করে।
XLM-RoBERTa
১০০টি ভাষায় Common Crawl বিশাল ডেটাসেট ব্যবহার করে প্রাক-প্রশিক্ষিত RoBERTa-র বহুভাষিক সংস্করণ। উন্নত প্রাক-প্রশিক্ষণ এবং কম সম্পদযুক্ত ভাষাগুলির আরও ভাল ব্যবস্থাপনার মাধ্যমে XLM এবং mBERT-কে ছাড়িয়ে যায়।
Sentence-BERT
সম্পূর্ণ বাক্যগুলিকে শব্দার্থিক ভেক্টরে এনকোড করার জন্য অপ্টিমাইজ করা BERT-এর পরিবর্তন। শব্দার্থিক সাদৃশ্যের জন্য প্রাসঙ্গিক এমবেডিং তৈরি করতে সিয়ামিজ এবং ট্রিপল নেটওয়ার্ক ব্যবহার করে।
VideoBERT
ভিডিও-টেক্সট যৌক্তিক উপস্থাপনা শেখার জন্য BERT-এর মাল্টিমোডাল এক্সটেনশন। ভিডিও বোঝার জন্য ভিজ্যুয়াল এবং ভাষাগত টোকেনগুলিতে প্রাক-প্রশিক্ষণ সম্পন্ন করে।
Controlled BERT
টেক্সট জেনারেশনের সময় স্টাইল বৈশিষ্ট্যগুলি নিয়ন্ত্রণ করতে সক্ষম BERT-এর বৈকল্পিক। কাঙ্ক্ষিত ভাষাগত বৈশিষ্ট্যগুলি মডিউলেট করার জন্য আর্কিটেকচারে কন্ট্রোলারগুলি একীভূত করে।