BERT e suas Variantes

TinyBERT

Versão ultracompacta do BERT que reduz os parâmetros em até 7.5 vezes, mantendo um alto desempenho. Aplica destilação bidirecional e atenção multinível para compressão.

← Voltar