A validação cruzada é um método para verificar em que medida um modelo generaliza para dados novos, nunca vistos. Na validação cruzada k-fold, os dados são divididos em k partes; o modelo é treinado k vezes em k−1 partes e testado de cada vez na parte restante, após o que os resultados são calculados em média. Isto ajuda a detetar o sobreajuste e a comparar modelos ou configurações de forma justa, sobretudo quando há poucos dados.
Agentes, fluxos e modelos num só espaço de trabalho – demonstração gratuita de 24 horas.
Iniciar demonstraçãoO sobreajuste (overfitting) ocorre quando um modelo memoriza os dados de treino, incluindo particularidades aleatórias e ruído, em vez de captar padrões de validade geral. Parece então muito exato com os dados conhecidos, mas tem um mau desempenho com dados novos. Uma grande diferença entre o erro de treino e o erro de teste é um sinal típico. Entre as contramedidas contam-se mais dados ou dados mais variados, modelos mais simples, regularização, dropout e validação cruzada.
O erro de generalização mede o quanto um modelo de IA falha em dados novos, nunca vistos – por oposição ao seu erro nos dados de treino. Uma grande diferença entre os dois indica sobreajuste: o modelo memorizou exemplos em vez de aprender padrões gerais. É estimado com dados de teste reservados ou validação cruzada. É o valor que realmente conta, porque, na prática, um modelo encontra quase só casos novos.
Os hiperparâmetros são definições fixadas antes do treino de um modelo, como a taxa de aprendizagem, o número de camadas ou a intensidade da regularização. A otimização de hiperparâmetros procura sistematicamente a combinação com melhor desempenho nos dados de validação, por exemplo através de pesquisa em grelha, pesquisa aleatória ou otimização bayesiana. Valores bem escolhidos melhoram a exatidão e reduzem o sobreajuste ou o subajuste, mas a pesquisa consome tempo de cálculo.
Os dados de treino são os exemplos a partir dos quais um modelo de IA aprende padrões: grandes coleções de texto para modelos de linguagem, imagens etiquetadas para modelos de imagem. A sua qualidade, diversidade e atualidade determinam em grande medida a fiabilidade e a equidade de um modelo e o quão atualizado será o seu conhecimento. Para as organizações, também importa saber se um fornecedor utiliza os dados dos clientes que lhe são fornecidos para treino adicional.
