Backpropagation er standardmetoden, som neurale netværk lærer med. Efter hver forudsigelse måles fejlen og sendes baglæns gennem netværkets lag, så det fremgår, hvor meget hver vægt har bidraget til den. En optimeringsmetode som gradient descent justerer derefter vægtene trin for trin. Uden backpropagation ville det i praksis være umuligt at træne nutidens sprog- og billedmodeller.
Gradientnedstigning er den optimeringsmetode, der bruges til at træne de fleste AI-modeller. Man måler, hvor stor modellens fejl er, beregner i hvilken retning parametrene skal ændres for at mindske den, og tager derefter et lille skridt i den retning – igen og igen. Det er som en vandrer i tåge, der bliver ved med at gå nedad for at nå dalen. Skridtlængden (læringsraten) afgør hastighed og stabilitet.
Kunstige neurale netværk (ANN'er) er beregningsmodeller bestående af mange forbundne enheder (»neuroner«) arrangeret i lag, som behandler input via vægtede forbindelser. Under træning justeres vægtene trin for trin ud fra eksempler, som regel ved backpropagation. ANN'er er fundamentet for deep learning og driver billedgenkendelse, talegenkendelse og store sprogmodeller. På trods af den biologiske inspiration fungerer de langt mere enkelt end den menneskelige hjerne.
Aktiveringsfunktioner bestemmer, hvor kraftigt en neuron i et kunstigt neuralt netværk sender sit signal videre. De tilføjer ikke-linearitet – først da kan netværket gengive komplekse sammenhænge som sprog eller billeder. Almindelige eksempler er ReLU, der sætter negative værdier til nul, sigmoid til sandsynligheder mellem 0 og 1 og GELU, der bruges i mange transformermodeller. Valget påvirker træningens hastighed og stabilitet.
Krydsentropi er et mål fra informationsteorien, der angiver, hvor meget en forudsagt sandsynlighedsfordeling afviger fra den faktiske. I maskinlæring er det den mest almindelige tabsfunktion til klassifikationsopgaver og også til sprogmodeller, der forudsiger det næste token. Den straffer sikre, forkerte forudsigelser særligt hårdt: At tildele 99 % til den forkerte klasse giver et langt højere tab end at tildele 60 %.
