Glossário IA
O dicionário completo da Inteligência Artificial
Adapters
Pequenos módulos neurais inseridos entre as camadas de um Transformer pré-treinado, cujos parâmetros são os únicos treinados durante o fine-tuning para adaptar o modelo a uma nova tarefa.
P-Tuning v2
Evolução do prefix-tuning onde os parâmetros treináveis (prompts contínuos) são colocados não apenas na entrada, mas também em cada camada do Transformer para um melhor desempenho.
Tree of Thoughts (ToT)
Framework avançado de prompt engineering que modela o raciocínio como uma exploração de árvore, permitindo ao modelo avaliar e escolher entre diferentes caminhos de pensamento.
Generated Knowledge Prompting
Técnica em duas etapas onde o modelo primeiro gera conhecimento factual sobre um tópico e, em seguida, usa esse conhecimento para responder a uma pergunta, melhorando a precisão.
Automatic Prompt Engineer (APE)
Método que utiliza um grande modelo de linguagem para gerar e otimizar automaticamente prompts para uma dada tarefa, com base em um conjunto de dados de validação.
Contrastive Fine-Tuning
Abordagem de adaptação que utiliza um objetivo de perda contrastiva para aproximar os embeddings de respostas corretas e afastar os de respostas incorretas.
Multi-Task Prompt Tuning (MTPT)
Variante do prompt tuning que aprende um conjunto de prompts compartilhados para realizar simultaneamente o fine-tuning em várias tarefas, melhorando a generalização.