Arquitectura BERT

Bloque Codificador Transformer

Unidad computacional fundamental de BERT compuesta de atención multi-cabeza seguida de una red feed-forward con conexiones residuales y normalización. Cada bloque procesa la secuencia entera simultáneamente, preservando las relaciones globales.

← Volver