Glossário IA
O dicionário completo da Inteligência Artificial
Perda de Traço LASSO Multi-Tarefa
Extensão da regularização LASSO ao contexto multi-tarefa que penaliza a norma L2,1 da matriz de pesos, favorecendo assim a seleção de características comuns a todas as tarefas.
Norma de Bloco L2,1
Norma de regularização que calcula a norma L2 para cada linha da matriz de pesos (característica) e depois a norma L1 sobre o conjunto dos resultados, incentivando a esparsidade ao nível das características compartilhadas.
Regularização por Kernel Multi-Tarefa
Abordagem que estende os métodos de kernel ao contexto multi-tarefa, definindo kernels de covariância entre as tarefas, permitindo aprender simultaneamente os parâmetros do modelo e as relações inter-tarefas.
Fator de Tarefa
Parâmetro de regularização que controla a influência relativa de cada tarefa no objetivo de aprendizado multi-tarefa, permitindo equilibrar a contribuição das diferentes tarefas para a função de perda global.
Ortogonalidade Multi-Tarefa
Restrição de regularização que força as representações específicas de cada tarefa a serem ortogonais entre si, minimizando assim as interferências negativas enquanto preserva o conhecimento compartilhado.
Penalidade de Agrupamento Multi-Tarefa
Técnica de regularização que agrupa os parâmetros do modelo de acordo com sua relevância para as tarefas, aplicando diferentes níveis de penalização para incentivar o compartilhamento seletivo de representações.
Regularização por Decomposição em Valores Singulares
Método que aplica uma restrição de posto baixo na matriz de pesos compartilhados entre as tarefas via uma decomposição SVD, reduzindo a complexidade do modelo enquanto captura as relações inter-tarefas essenciais.
Dropout Multi-Tarefa
Variante do dropout adaptada ao contexto multi-tarefa onde os neurônios são desativados de forma coordenada através das ramificações específicas das tarefas, preservando assim as conexões compartilhadas importantes.
Regularização por Adversário Multi-Tarefa
Abordagem que utiliza uma rede adversária para regularizar as representações compartilhadas, garantindo que elas contenham informação suficiente para todas as tarefas sem serem enviesadas para uma tarefa particular.
Perda de Mangan
Função de perda multi-tarefa que combina as perdas individuais de forma não linear, utilizando pesos aprendidos dinamicamente, regularizando automaticamente a importância de cada tarefa durante o treinamento.
Regularização por Contraste Multi-Tarefa
Técnica que maximiza a similaridade entre representações da mesma tarefa enquanto minimiza a similaridade entre representações de tarefas diferentes, regularizando assim o espaço de características compartilhadas.
Penalidade de Fusão de Tarefas
Mecanismo de regularização que penaliza a divergência entre os parâmetros dos modelos específicos às tarefas, incentivando uma fusão progressiva do conhecimento quando as tarefas são semelhantes.
Regularização por Gradiente Multi-Tarefa
Método que regulariza os gradientes de perda entre as tarefas para minimizar conflitos, garantindo que a atualização dos parâmetros compartilhados beneficie simultaneamente todas as tarefas consideradas.
Perda de Huber Multi-Tarefa
Extensão robusta da perda de Huber ao contexto multi-tarefa que combina as perdas quadráticas e absolutas de forma adaptativa para cada tarefa, regularizando assim a influência de valores atípicos.
Regularização por Atenção Multi-Tarefa
Técnica que utiliza mecanismos de atenção para regularizar o compartilhamento de representações entre as tarefas, aprendendo dinamicamente quais características especializar ou compartilhar de acordo com o contexto.
Penalidade de Coerência Multi-Tarefa
Restrição de regularização que impõe coerência nas previsões do modelo sobre entradas semelhantes, mas rotuladas de forma diferente de acordo com as tarefas, melhorando a generalização entre tarefas.
Regularização por Destilação Multi-Tarefa
Método que regulariza um modelo multi-tarefa, forçando-o a imitar as saídas de um conjunto de modelos especialistas de tarefa única, preservando assim o conhecimento especializado enquanto se beneficia do compartilhamento.