BERT

RoBERTa

Variante otimizada do BERT que elimina o objetivo NSP, utilizando mini-lotes dinâmicos e um vocabulário mais amplo, alcançando melhor desempenho em vários benchmarks.

← Voltar