BERT এবং এর বৈকল্পিকসমূহ

ELECTRA

একটি দক্ষ প্রি-ট্রেনিং আর্কিটেকচার যা মাস্কড ল্যাঙ্গুয়েজ মডেলিং-এর পরিবর্তে দূষিত টোকেন প্রতিস্থাপন ব্যবহার করে। একটি ডিসক্রিমিনেটর ব্যবহার করে যা প্রতিস্থাপিত টোকেন সনাক্ত করে, দ্রুত এবং আরও ভালো প্রশিক্ষণ সক্ষম করে।

← ফিরে যান