Glossário IA
O dicionário completo da Inteligência Artificial
Calibração Robusta
Conjunto de técnicas que visam manter a precisão da calibração de um modelo face a variações de distribuição e ataques maliciosos. Estes métodos garantem que os scores de confiança permaneçam fiáveis mesmo em condições operacionais degradadas.
Distribuição Fora-de-Distribuição (OOD)
Fenómeno em que os dados de teste provêm de uma distribuição diferente da dos dados de treino, o que geralmente compromete a calibração e o desempenho do modelo. A deteção OOD é crucial para identificar quando as previsões de um modelo deixam de ser fiáveis.
Ataques Adversariais
Manipulações intencionais e muitas vezes impercetíveis dos dados de entrada, com o objetivo de enganar o modelo, mantendo a aparência normal para um observador humano. Estes ataques podem degradar severamente a calibração, produzindo previsões altamente confiantes, mas incorretas.
Label Shift
Mudança distribucional onde as proporções das classes variam entre os dados de treino e de teste, enquanto P(x|y) permanece estável. Este tipo de shift requer técnicas de calibração específicas para ajustar as probabilidades.
Calibração em Tempo de Teste
Métodos que adaptam dinamicamente a calibração do modelo durante a inferência, com base nas características dos dados de teste. Estas abordagens permitem manter a calibração face a shifts distribucionais imprevistos.
Diagrama de Confiabilidade
Variante do diagrama de calibração que utiliza bins com número constante de amostras, em vez de intervalos de confiança constantes. Este método fornece uma estimativa mais estável da calibração, particularmente útil para pequenos conjuntos de dados.