Glossário

Convergência

O que é Convergência?

No machine learning, convergência significa que um processo de treino se aproxima de um estado estável: a perda quase já não diminui e os parâmetros do modelo mudam apenas minimamente. Se um modelo converge, e com que rapidez, depende de fatores como a taxa de aprendizagem, a qualidade dos dados e a arquitetura do modelo. Se a taxa de aprendizagem for demasiado alta, a perda oscila; se for demasiado baixa, o treino demora desnecessariamente. A convergência não garante um bom modelo, pois este pode ainda estar sobreajustado.

Temas

  • Training
  • Otimização
  • Aprendizagem automática

Experimentar o KI.ordo

Agentes, fluxos e modelos num só espaço de trabalho – demonstração gratuita de 24 horas.

Iniciar demonstração
← Todos os termos

Termos relacionados

Descida do gradiente

A descida do gradiente é o método de otimização usado para treinar a maioria dos modelos de IA. Mede-se a dimensão do erro do modelo, calcula-se em que direção os parâmetros têm de mudar para o reduzir e dá-se depois um pequeno passo nessa direção – repetidamente. É como um caminhante em pleno nevoeiro que continua a descer para chegar ao vale. O tamanho do passo (taxa de aprendizagem) determina a velocidade e a estabilidade.

  • Otimização
  • Treino de modelos
  • +1

Curva de aprendizagem

No machine learning, uma curva de aprendizagem é um gráfico que mostra o desempenho ou o erro de um modelo ao longo do tempo de treino ou da quantidade de dados de treino, normalmente em separado para os dados de treino e de validação. A sua forma revela se um modelo sofre de subajuste ou de sobreajuste e se mais dados são suscetíveis de ajudar. Se o erro de validação se mantiver bem acima do erro de treino, por exemplo, isso aponta para sobreajuste. Na linguagem corrente, o termo descreve também a rapidez com que as pessoas dominam uma nova tecnologia.

  • Training
  • Avaliação de modelos
  • +1

Erro de treino

O erro de treino indica quanto as previsões de um modelo se desviam dos valores corretos precisamente nos dados com que foi treinado. Por si só, diz pouco: o que importa é a comparação com o erro de generalização em dados novos. Um erro de treino elevado aponta para subajuste; um erro de treino muito baixo combinado com um erro elevado nos dados de teste sinaliza, em geral, sobreajuste.

  • Aprendizagem automática
  • Avaliação
  • +1

Otimização de hiperparâmetros

Os hiperparâmetros são definições fixadas antes do treino de um modelo, como a taxa de aprendizagem, o número de camadas ou a intensidade da regularização. A otimização de hiperparâmetros procura sistematicamente a combinação com melhor desempenho nos dados de validação, por exemplo através de pesquisa em grelha, pesquisa aleatória ou otimização bayesiana. Valores bem escolhidos melhoram a exatidão e reduzem o sobreajuste ou o subajuste, mas a pesquisa consome tempo de cálculo.

  • Training
  • Qualidade do modelo
  • +1