Gradientnedstigning är den optimeringsmetod som används för att träna de flesta AI-modeller. Man mäter hur stort modellens fel är, beräknar i vilken riktning parametrarna måste ändras för att minska det och tar sedan ett litet steg i den riktningen – om och om igen. Det är som en vandrare i dimma som hela tiden går nedför för att nå dalen. Stegstorleken (inlärningshastigheten) avgör fart och stabilitet.
Backpropagation är standardmetoden för hur neurala nätverk lär sig. Efter varje förutsägelse mäts felet och sprids bakåt genom nätverkets lager, vilket visar hur mycket varje vikt bidrog till det. En optimeringsmetod som gradientnedstigning justerar sedan vikterna steg för steg. Utan backpropagation vore det i praktiken omöjligt att träna dagens språk- och bildmodeller.
Inom maskininlärning betyder konvergens att en träningsprocedur närmar sig ett stabilt tillstånd: förlusten minskar knappt längre och modellens parametrar ändras bara minimalt. Om och hur snabbt en modell konvergerar beror på faktorer som inlärningshastighet, datakvalitet och modellarkitektur. Är inlärningshastigheten för hög hoppar förlusten omkring; är den för låg tar träningen onödigt lång tid. Konvergens garanterar inte en bra modell, eftersom den ändå kan vara överanpassad.
Korsentropi är ett mått från informationsteorin som anger hur långt en förutsagd sannolikhetsfördelning avviker från den faktiska. Inom maskininlärning är det den vanligaste förlustfunktionen för klassificeringsuppgifter och även för språkmodeller som förutsäger nästa token. Den straffar särskilt hårt säkra felaktiga förutsägelser: att tilldela 99 % till fel klass ger en mycket högre förlust än att tilldela 60 %.
Hyperparametrar är inställningar som fastställs innan en modell tränas, till exempel inlärningshastigheten, antalet lager eller regulariseringens styrka. Hyperparameteroptimering söker systematiskt efter den kombination som presterar bäst på valideringsdata, till exempel genom rutnätssökning, slumpmässig sökning eller bayesiansk optimering. Väl valda värden förbättrar träffsäkerheten och minskar över- och underanpassning, men sökningen kostar beräkningstid.
