Glossário

Robustez do modelo

O que é Robustez do modelo?

A robustez do modelo descreve com que fiabilidade um modelo de IA funciona quando as entradas têm ruído, estão incompletas, são invulgares ou foram deliberadamente manipuladas. Um modelo robusto continua a fornecer resultados estáveis, por exemplo no reconhecimento de imagens com má iluminação ou num modelo de linguagem que lida com erros de digitação. A robustez avalia-se com testes de esforço, dados de treino diversificados e testes contra tentativas deliberadas de engano, e é particularmente importante em aplicações críticas para a segurança.

Temas

fiabilidade
qualidade do modelo
segurança

Experimentar o KI.ordo

Agentes, fluxos e modelos num só espaço de trabalho – demonstração gratuita de 24 horas.

Iniciar demonstração

← Todos os termos

Termos relacionados

Aprendizagem automática adversarial

A aprendizagem automática adversarial estuda como os modelos de IA podem ser induzidos em erro por entradas ou dados de treino deliberadamente manipulados – e como protegê-los. Exemplos conhecidos são alterações de imagem quase invisíveis que invertem uma classificação, ou dados de treino envenenados. O tema torna-se relevante para as organizações assim que a IA apoia decisões relevantes para a segurança. As contramedidas incluem treino robusto, verificação das entradas, monitorização e testes de segurança regulares.

Segurança da IA
Robustez
+1

Desvio do modelo

O desvio do modelo é a perda gradual de qualidade preditiva de um modelo durante o funcionamento, porque a realidade se altera em relação aos dados de treino. Distingue-se entre alterações nos dados de entrada (desvio dos dados) e alterações na relação entre as entradas e os resultados (desvio de conceito). Exemplo: um modelo de deteção de fraude deixa passar novos esquemas de fraude. Entre as soluções contam-se a monitorização contínua das métricas e o retreino regular.

MLOps
qualidade do modelo
+1

Erro de generalização

O erro de generalização mede o quanto um modelo de IA falha em dados novos, nunca vistos – por oposição ao seu erro nos dados de treino. Uma grande diferença entre os dois indica sobreajuste: o modelo memorizou exemplos em vez de aprender padrões gerais. É estimado com dados de teste reservados ou validação cruzada. É o valor que realmente conta, porque, na prática, um modelo encontra quase só casos novos.

Aprendizagem automática
Avaliação de modelos
+1

Overfitting

O sobreajuste (overfitting) ocorre quando um modelo memoriza os dados de treino, incluindo particularidades aleatórias e ruído, em vez de captar padrões de validade geral. Parece então muito exato com os dados conhecidos, mas tem um mau desempenho com dados novos. Uma grande diferença entre o erro de treino e o erro de teste é um sinal típico. Entre as contramedidas contam-se mais dados ou dados mais variados, modelos mais simples, regularização, dropout e validação cruzada.

qualidade do modelo
treino
+1