Vid överföringsinlärning (transfer learning) fungerar en modell som redan har lärt sig en stor allmän uppgift som utgångspunkt för en ny, specialiserad. I stället för att börja från noll anpassas den, till exempel genom finjustering, med jämförelsevis lite egna data. Det sparar beräkningstid och data, till exempel när en allmän bildmodell ska lära sig upptäcka produktionsfel i foton.
Finjustering innebär att en redan förtränad AI-modell tränas vidare på ytterligare, vanligtvis uppgiftsspecifika data. Modellens interna vikter justeras så att den till exempel hanterar en viss skrivstil, ett visst fackspråk eller ett visst utdataformat mer tillförlitligt. Finjustering kräver noggrant förberedda exempeldata, beräkningskraft och tester. För många tillämpningar räcker väl formulerade instruktioner och ansluten kunskap, och de är lättare att ändra.
En grundmodell är en stor AI-modell som har förtränats på mycket omfattande och mångsidiga data och sedan kan användas för många olika uppgifter. Begreppet myntades vid Stanford University 2021. Kända exempel är stora språkmodeller som Claude eller GPT samt bildmodeller. Företag bygger vanligtvis sina applikationer på sådana modeller i stället för att träna egna från grunden; EU:s AI-förordning talar om AI-modeller för allmänna ändamål.
Parametereffektiv finjustering (PEFT) omfattar tekniker som anpassar en stor förtränad modell till en uppgift genom att bara träna en liten del av dess parametrar eller lägga till några få extra. Kända metoder är LoRA, QLoRA, adaptrar och prefix tuning. Det minskar beräknings- och minneskraven kraftigt, och små tilläggsmoduler kan sparas för flera uppgifter i stället för fullständiga modellkopior. Exempel: en språkmodell anpassas till stilen i interna tekniska dokument.
