Bij transfer learning dient een model dat al een grote algemene taak heeft geleerd als uitgangspunt voor een nieuw, gespecialiseerd model. In plaats van helemaal opnieuw te beginnen, wordt het aangepast, bijvoorbeeld door finetuning, met relatief weinig eigen gegevens. Dat bespaart rekentijd en gegevens, bijvoorbeeld wanneer een algemeen beeldmodel productiefouten op foto’s moet leren herkennen.
Agents, workflows en sjablonen in één werkruimte – gratis demo van 24 uur.
Demo startenFine-tuning betekent het verder trainen van een reeds vooraf getraind AI-model op aanvullende, meestal taakspecifieke data. De interne gewichten worden zo bijgesteld dat het model bijvoorbeeld een bepaalde schrijfstijl, vakjargon of uitvoerformaat betrouwbaarder beheerst. Fine-tuning vereist zorgvuldig voorbereide voorbeelddata, rekenkracht en tests. Voor veel toepassingen volstaan goed geschreven instructies en gekoppelde kennis, en die zijn makkelijker aan te passen.
Een foundation model is een groot AI-model dat is vooraf getraind op zeer omvangrijke, uiteenlopende data en vervolgens voor veel verschillende taken kan worden ingezet. De term werd in 2021 bedacht aan Stanford University. Bekende voorbeelden zijn grote taalmodellen zoals Claude of GPT, evenals beeldmodellen. Bedrijven bouwen hun toepassingen doorgaans op zulke modellen in plaats van zelf helemaal opnieuw te trainen; de AI-verordening spreekt van AI-modellen voor algemene doeleinden.
Parameter-efficient fine-tuning (PEFT) omvat technieken waarmee een groot, vooraf getraind model aan een taak wordt aangepast door slechts een klein deel van de parameters te trainen of een paar extra parameters toe te voegen. Bekende methoden zijn LoRA, QLoRA, adapters en prefix tuning. Dit verlaagt de reken- en geheugenbehoefte sterk, en kleine aanvullende modules kunnen voor meerdere taken worden opgeslagen in plaats van volledige modelkopieën. Voorbeeld: een taalmodel wordt aangepast aan de stijl van interne technische documentatie.
