Glossário IA
O dicionário completo da Inteligência Artificial
Desvio do Modelo
Fenômeno de degradação progressiva do desempenho de um modelo de IA em produção devido a mudanças nos dados de entrada ou nas relações entre variáveis. O drift requer monitoramento contínuo e potencialmente um retreinamento do modelo.
Desvio de Dados
Mudança estatística na distribuição dos dados de entrada de um modelo em relação aos dados de treinamento originais. Este fenômeno pode afetar negativamente as previsões e requer detecção proativa.
Monitoramento de Desempenho
Monitoramento contínuo das métricas de desempenho do modelo em produção incluindo accuracy, precision, recall e outros KPIs relevantes. Este monitoramento permite detectar rapidamente anomalias de desempenho.
Explicabilidade do Modelo
Capacidade de compreender e interpretar as decisões de um modelo de IA, essencial para a confiança e conformidade regulatória. Técnicas como SHAP ou LIME permitem explicar as previsões individuais.
Rastreamento da Importância de Características
Monitoramento contínuo da importância relativa das características utilizadas pelo modelo para suas previsões. Este monitoramento ajuda a identificar as mudanças nos padrões de decisão do modelo.
Pontuação de Confiança da Previsão
Métrica quantitativa indicando o nível de certeza do modelo em relação a cada previsão individual. Pontuações de confiança baixas podem sinalizar previsões arriscadas que necessitam intervenção humana.
Degradação do Modelo
Perda progressiva da eficácia de um modelo em produção devido a vários fatores como o envelhecimento dos dados ou a evolução do contexto de negócio. A degradação requer manutenção proativa do modelo.
Monitoramento de Inferência em Tempo Real
Monitoramento instantâneo das previsões e métricas de desempenho durante a inferência em tempo real. Este monitoramento permite detecção imediata de anomalias e falhas do sistema.
Sistema de Alerta
Infraestrutura automatizada que gera notificações quando as métricas do modelo excedem os limiares pré-definidos. Os alertas permitem uma intervenção rápida antes que as degradações afetem significativamente o negócio.
Métricas de Linha de Base
Referências de desempenho estabelecidas durante a validação do modelo, servindo como ponto de comparação para o monitoramento em produção. Essas linhas de base permitem quantificar objetivamente a degradação do desempenho.
Implantação Canary
Estratégia de implantação progressiva onde o novo modelo é testado em uma pequena porcentagem do tráfego antes da implantação completa. Este método minimiza os riscos associados às novas versões de modelos.
Pipeline de Observabilidade
Infraestrutura de coleta, processamento e armazenamento de logs, métricas e traces dos modelos em produção. Este pipeline fornece visibilidade completa sobre o comportamento do sistema.
Algoritmo de Detecção de Deriva
Algoritmos estatísticos ou de machine learning que identificam automaticamente mudanças nas distribuições de dados ou no desempenho do modelo. Essas ferramentas permitem uma detecção proativa de derivas.
Painel de Saúde do Modelo
Interface visual centralizada que exibe as principais métricas de desempenho, alertas e o estado geral de saúde dos modelos em produção. Esta ferramenta facilita a tomada de decisão para as equipes MLOps.
Detecção de Anomalias
Processo de identificação automática de comportamentos incomuns ou previsões aberrantes nas saídas do modelo. Esta detecção permite isolar os casos que necessitam investigação aprofundada.
Regressão de Desempenho
Diminuição mensurável do desempenho de um modelo em relação às suas métricas de referência iniciais. A regressão pode ser gradual ou súbita e requer uma análise das causas raiz.
Model Governance
Conjunto de políticas, procedimentos e controlos que garantem a conformidade, a rastreabilidade e a auditabilidade dos modelos ao longo de todo o seu ciclo de vida. A governação garante a fiabilidade e a ética dos sistemas de IA.
Latency Monitoring
Monitorização do tempo de resposta das previsões do modelo em produção, crítica para as aplicações em tempo real. Uma monitorização contínua garante o cumprimento dos SLAs e a experiência do utilizador.
Throughput Tracking
Medição do volume de previsões processadas por unidade de tempo, essencial para avaliar a capacidade de carga do sistema. O acompanhamento do débito ajuda a dimensionar os recursos de infraestrutura.