BERT et ses Variantes

XLM-RoBERTa

Version multilingue de RoBERTa pré-entraînée sur 100 langues utilisant Common Crawl massive dataset. Surpasse XLM et mBERT grâce à un pré-entraînement amélioré et une meilleure gestion des langues à faibles ressources.

← Retour