Glossário IA
O dicionário completo da Inteligência Artificial
Embeddings de Segmento do BERT
Embeddings adicionais no BERT que distinguem diferentes segmentos ou frases em uma sequência, complementando os embeddings de token e posição.
Interpolação de Posição
Técnica que permite a modelos pré-treinados com codificações posicionais lidar com sequências mais longas através da interpolação linear das posições existentes.
Extrapolação de Comprimento
Capacidade de um modelo de generalizar para comprimentos de sequência maiores do que os vistos durante o treinamento, fortemente dependente do esquema de codificação posicional utilizado.
Viés Posicional Aprendido
Parâmetros de viés aprendidos diretamente adicionados aos scores de atenção com base nas posições relativas, uma alternativa eficiente aos embeddings posicionais completos.
Atenção Sensível à Posição
Variante do mecanismo de atenção que integra explicitamente informações posicionais nos cálculos de similaridade, melhorando a consciência sequencial do modelo.