Glossário IA
O dicionário completo da Inteligência Artificial
Drift de Dados
Mudança na distribuição estatística dos dados de entrada em produção em comparação com os dados de treinamento, o que pode degradar o desempenho do modelo. É crucial detectá-lo para manter a relevância das previsões.
Drift de Conceito
Evolução da relação entre as variáveis de entrada e a variável alvo, onde o significado ou o contexto do problema muda. Este tipo de drift é mais insidioso porque as distribuições de entrada podem permanecer estáveis.
Monitoramento de Desempenho
Acompanhamento contínuo das métricas de avaliação do modelo (precisão, recall, F1-score, etc.) sobre dados reais para identificar qualquer degradação. Permite acionar alertas e ações de retreinamento.
Painel ML (ML Dashboard)
Interface de visualização centralizada que agrega as principais métricas de monitoramento, alertas de drift e o estado de saúde dos modelos em produção. Facilita a tomada de decisão para as equipes de MLOps.
Alertas Automatizados
Sistema de notificação acionado por limites predefinidos nas métricas de desempenho ou nos indicadores de drift. Garante uma resposta rápida a anomalias no comportamento do modelo.
Métrica de Estabilidade
Indicador que quantifica a similaridade entre a distribuição dos dados atuais e a de referência (treinamento). Métricas como a Divergência de Kullback-Leibler ou o índice de estabilidade populacional são comumente usadas.
Análise de Importância de Features
Monitoramento da evolução do impacto de cada variável de entrada nas previsões do modelo. Uma mudança repentina pode indicar um drift de dados ou uma modificação no comportamento do modelo.
Explicabilidade em Produção
Monitoramento das explicações das previsões (ex: SHAP, LIME) para garantir que o modelo ainda utilize as mesmas lógicas e features. Isso é essencial para a confiança e auditabilidade de sistemas críticos.
Detecção de Anomalias de Previsão
Identificação de previsões aberrantes ou de confiança anormalmente baixa, que podem sinalizar uma degradação do modelo ou a presença de dados fora da sua distribuição conhecida. É uma camada de segurança para a automação.
Latência de Previsão
Métrica que mede o tempo decorrido entre a receção de um pedido e o retorno da previsão pelo modelo. O seu monitoramento é vital para aplicações em tempo real onde uma latência elevada impacta a experiência do utilizador.
Viés em Produção
Monitoramento contínuo dos indicadores de equidade e viés do modelo em dados reais para garantir que não discrimina certas populações. O monitoramento é necessário porque o viés pode surgir ou amplificar-se com o drift.
Logging Estruturado
Registo das entradas, previsões, metadados e métricas de desempenho num formato estruturado (ex: JSON). Isso facilita a análise post-mortem, a depuração e a alimentação dos pipelines de monitoramento.
Versionamento de Modelos
Rastreamento e gestão das diferentes versões de um modelo treinado, frequentemente através de um registo de modelos (Model Registry). O monitoramento deve ser capaz de distinguir o desempenho de cada versão implantada.
Ciclo de Feedback (Feedback Loop)
Processo de recolha de feedback sobre as previsões do modelo (correções, anotações) para alimentar os futuros ciclos de treinamento. O monitoramento da qualidade e do volume deste feedback é um indicador da saúde do sistema.