BERT (Representações de Codificador Bidirecional)

Embeddings Posicionais

Vetores adicionados aos embeddings de tokens no BERT para codificar a posição sequencial, essenciais já que a atenção sozinha não captura a ordem dos tokens.

← Voltar