Gradientnedstigning er den optimeringsmetode, der bruges til at træne de fleste AI-modeller. Man måler, hvor stor modellens fejl er, beregner i hvilken retning parametrene skal ændres for at mindske den, og tager derefter et lille skridt i den retning – igen og igen. Det er som en vandrer i tåge, der bliver ved med at gå nedad for at nå dalen. Skridtlængden (læringsraten) afgør hastighed og stabilitet.
Backpropagation er standardmetoden, som neurale netværk lærer med. Efter hver forudsigelse måles fejlen og sendes baglæns gennem netværkets lag, så det fremgår, hvor meget hver vægt har bidraget til den. En optimeringsmetode som gradient descent justerer derefter vægtene trin for trin. Uden backpropagation ville det i praksis være umuligt at træne nutidens sprog- og billedmodeller.
I maskinlæring betyder konvergens, at en træningsprocedure nærmer sig en stabil tilstand: Tabet falder næsten ikke længere, og modellens parametre ændrer sig kun minimalt. Om og hvor hurtigt en model konvergerer, afhænger af faktorer som læringsrate, datakvalitet og modelarkitektur. Er læringsraten for høj, hopper tabet rundt; er den for lav, tager træningen unødigt lang tid. Konvergens garanterer ikke en god model, da den stadig kan være overfittet.
Krydsentropi er et mål fra informationsteorien, der angiver, hvor meget en forudsagt sandsynlighedsfordeling afviger fra den faktiske. I maskinlæring er det den mest almindelige tabsfunktion til klassifikationsopgaver og også til sprogmodeller, der forudsiger det næste token. Den straffer sikre, forkerte forudsigelser særligt hårdt: At tildele 99 % til den forkerte klasse giver et langt højere tab end at tildele 60 %.
Hyperparametre er indstillinger, der fastlægges, før en model trænes, f.eks. læringsraten, antallet af lag eller regulariseringens styrke. Hyperparameteroptimering søger systematisk efter den kombination, der klarer sig bedst på valideringsdata, f.eks. gennem grid search, random search eller bayesiansk optimering. Velvalgte værdier forbedrer nøjagtigheden og mindsker over- eller underfitting, men søgningen koster regnetid.
