Vad är Konvergens?
Inom maskininlärning betyder konvergens att en träningsprocedur närmar sig ett stabilt tillstånd: förlusten minskar knappt längre och modellens parametrar ändras bara minimalt. Om och hur snabbt en modell konvergerar beror på faktorer som inlärningshastighet, datakvalitet och modellarkitektur. Är inlärningshastigheten för hög hoppar förlusten omkring; är den för låg tar träningen onödigt lång tid. Konvergens garanterar inte en bra modell, eftersom den ändå kan vara överanpassad.