BERT

RoBERTa

Variante optimizada de BERT que elimina el objetivo NSP, utilizando mini-batches dinámicos y un vocabulario más amplio, alcanzando un mejor rendimiento en varios benchmarks.

← Volver