BERT et ses Variantes

TinyBERT

Versión ultracompacta de BERT que reduce los parámetros hasta 7.5 veces manteniendo un alto rendimiento. Aplica la destilación bidireccional y una atención multinivel para la compresión.

← Volver