Glossário

Desvio do modelo

O que é Desvio do modelo?

O desvio do modelo é a perda gradual de qualidade preditiva de um modelo durante o funcionamento, porque a realidade se altera em relação aos dados de treino. Distingue-se entre alterações nos dados de entrada (desvio dos dados) e alterações na relação entre as entradas e os resultados (desvio de conceito). Exemplo: um modelo de deteção de fraude deixa passar novos esquemas de fraude. Entre as soluções contam-se a monitorização contínua das métricas e o retreino regular.

Temas

MLOps
qualidade do modelo
monitorização

Experimentar o KI.ordo

Agentes, fluxos e modelos num só espaço de trabalho – demonstração gratuita de 24 horas.

Iniciar demonstração

← Todos os termos

Termos relacionados

Robustez do modelo

A robustez do modelo descreve com que fiabilidade um modelo de IA funciona quando as entradas têm ruído, estão incompletas, são invulgares ou foram deliberadamente manipuladas. Um modelo robusto continua a fornecer resultados estáveis, por exemplo no reconhecimento de imagens com má iluminação ou num modelo de linguagem que lida com erros de digitação. A robustez avalia-se com testes de esforço, dados de treino diversificados e testes contra tentativas deliberadas de engano, e é particularmente importante em aplicações críticas para a segurança.

fiabilidade
qualidade do modelo
+1

Dados de treino

Os dados de treino são os exemplos a partir dos quais um modelo de IA aprende padrões: grandes coleções de texto para modelos de linguagem, imagens etiquetadas para modelos de imagem. A sua qualidade, diversidade e atualidade determinam em grande medida a fiabilidade e a equidade de um modelo e o quão atualizado será o seu conhecimento. Para as organizações, também importa saber se um fornecedor utiliza os dados dos clientes que lhe são fornecidos para treino adicional.

Dados
Training
+1

MLflow

O MLflow é uma plataforma de código aberto para gerir todo o ciclo de vida de modelos de aprendizagem automática, apresentada originalmente pela Databricks em 2018. Regista experiências com os respetivos parâmetros e métricas, gere versões de modelos num registo e simplifica a implementação. As versões mais recentes suportam também o rastreio e a avaliação de aplicações baseadas em modelos de linguagem. Assim, as equipas conseguem perceber que modelo foi produzido com que dados e com que configurações.

MLOps
código aberto
+1

Exatidão e estabilidade dos modelos de IA

A exatidão descreve com que frequência um modelo de IA produz resultados corretos; a estabilidade descreve com que fiabilidade esse desempenho se mantém – com entradas ligeiramente alteradas, dados novos ou ao longo do tempo. Um modelo pode ser muito exato nos testes, mas instável se a simples reformulação de uma pergunta levar a uma resposta diferente. Na utilização real, ambas as propriedades são verificadas com casos de teste fixos, validação cruzada e monitorização contínua.

Qualidade do modelo
Robustez
+1