Dimensionalidade dos vetores de representação interna do transformador, um parâmetro crucial que influencia a capacidade do modelo de capturar características complexas e geralmente um múltiplo do número de cabeças de atenção.

📖

termos

Número de Cabeças

Parâmetro que define o número de cabeças paralelas no mecanismo de atenção multi-cabeças, permitindo que o modelo se concentre em diferentes representações de subespaço simultaneamente para uma compreensão mais rica.

🔍

Glossário IA

Tamanho Oculto

Número de Cabeças

Nenhum resultado encontrado