Woordenlijst

Parameter-efficient fine-tuning (PEFT)

Wat is Parameter-efficient fine-tuning (PEFT)?

Parameter-efficient fine-tuning (PEFT) omvat technieken waarmee een groot, vooraf getraind model aan een taak wordt aangepast door slechts een klein deel van de parameters te trainen of een paar extra parameters toe te voegen. Bekende methoden zijn LoRA, QLoRA, adapters en prefix tuning. Dit verlaagt de reken- en geheugenbehoefte sterk, en kleine aanvullende modules kunnen voor meerdere taken worden opgeslagen in plaats van volledige modelkopieën. Voorbeeld: een taalmodel wordt aangepast aan de stijl van interne technische documentatie.

Onderwerpen

finetuning
training
efficiëntie

KI.ordo uitproberen

Agents, workflows en sjablonen in één werkruimte – gratis demo van 24 uur.

Demo starten

← Alle begrippen

Verwante begrippen

Fine-tuning

Fine-tuning betekent het verder trainen van een reeds vooraf getraind AI-model op aanvullende, meestal taakspecifieke data. De interne gewichten worden zo bijgesteld dat het model bijvoorbeeld een bepaalde schrijfstijl, vakjargon of uitvoerformaat betrouwbaarder beheerst. Fine-tuning vereist zorgvuldig voorbereide voorbeelddata, rekenkracht en tests. Voor veel toepassingen volstaan goed geschreven instructies en gekoppelde kennis, en die zijn makkelijker aan te passen.

Modeltraining
Maatwerk
+1

Instruction Tuning

Instruction tuning is een vorm van fine-tuning waarbij een vooraf getraind taalmodel verder wordt getraind op veel paren van instructies en gewenste antwoorden. Zo leert het model in natuurlijke taal geformuleerde opdrachten uit te voeren in plaats van alleen tekst voort te zetten. Het is een belangrijke stap om van een basismodel een assistent te maken en wordt vaak gecombineerd met methoden zoals RLHF. Voorbeeld: ‘Vat deze tekst samen in drie zinnen’ wordt betrouwbaar uitgevoerd.

Fine-tuning
Taalmodellen
+1

Transfer Learning

Bij transfer learning dient een model dat al een grote algemene taak heeft geleerd als uitgangspunt voor een nieuw, gespecialiseerd model. In plaats van helemaal opnieuw te beginnen, wordt het aangepast, bijvoorbeeld door finetuning, met relatief weinig eigen gegevens. Dat bespaart rekentijd en gegevens, bijvoorbeeld wanneer een algemeen beeldmodel productiefouten op foto’s moet leren herkennen.

Machine learning
Training
+1

Foundation model

Een foundation model is een groot AI-model dat is vooraf getraind op zeer omvangrijke, uiteenlopende data en vervolgens voor veel verschillende taken kan worden ingezet. De term werd in 2021 bedacht aan Stanford University. Bekende voorbeelden zijn grote taalmodellen zoals Claude of GPT, evenals beeldmodellen. Bedrijven bouwen hun toepassingen doorgaans op zulke modellen in plaats van zelf helemaal opnieuw te trainen; de AI-verordening spreekt van AI-modellen voor algemene doeleinden.

Basismodel
Taalmodellen
+1