BERT (Representaciones del Codificador Bidireccional)

Positional Embeddings

Vectores añadidos a los embeddings de tokens en BERT para codificar la posición secuencial, esenciales ya que la atención por sí sola no captura el orden de los tokens.

← Volver