BERT ومتغيراته
إلكترا (ELECTRA)
هندسة معمارية فعالة للتدريب المسبق تستبدل نمذجة اللغة المقنعة باستبدال الرموز التالفة. تستخدم مميزًا يحدد الرموز المستبدلة، مما يسمح بتدريب أسرع وأكثر كفاءة.
← رجوع