Pri transfer learningu slúži ako východisko pre novú, špecializovanú úlohu model, ktorý sa už naučil veľkú všeobecnú úlohu. Namiesto začínania od nuly sa prispôsobí, napríklad dolaďovaním, pomocou pomerne malého množstva vlastných dát. Šetrí to výpočtový čas aj dáta, napríklad keď sa má všeobecný obrazový model naučiť odhaľovať výrobné chyby na fotografiách.
Agenti, postupy a šablóny v jednom pracovnom priestore – bezplatné 24-hodinové demo.
Spustiť demoDolaďovanie (fine-tuning) znamená ďalšie trénovanie už vopred natrénovaného modelu AI na dodatočných, zvyčajne úlohovo špecifických údajoch. Jeho vnútorné váhy sa upravia tak, aby model spoľahlivejšie zvládal napríklad určitý štýl písania, odbornú slovnú zásobu alebo výstupný formát. Dolaďovanie vyžaduje starostlivo pripravené príkladové údaje, výpočtový výkon a testovanie. Pre mnohé aplikácie stačia dobre napísané pokyny a pripojené znalosti, ktoré sa dajú ľahšie meniť.
Základný model (foundation model) je veľký model AI vopred natrénovaný na veľmi rozsiahlych a rôznorodých údajoch, ktorý sa potom dá použiť na mnoho rôznych úloh. Pojem vznikol na Stanfordskej univerzite v roku 2021. Známymi príkladmi sú veľké jazykové modely, ako Claude alebo GPT, a tiež modely obrázkov. Firmy zvyčajne stavajú svoje aplikácie na takýchto modeloch, namiesto toho, aby od základu trénovali vlastné; akt EÚ o umelej inteligencii hovorí o modeloch AI na všeobecné účely.
Parametricky efektívne dolaďovanie (PEFT) zahŕňa techniky, ktoré veľký predtrénovaný model prispôsobia úlohe tak, že trénujú iba malú časť jeho parametrov alebo pridajú niekoľko nových. Medzi známe metódy patria LoRA, QLoRA, adaptéry a prefix tuning. Výrazne tým klesajú nároky na výpočtový výkon a pamäť a namiesto úplných kópií modelu sa pre viaceré úlohy dajú uložiť malé doplnkové moduly. Príklad: jazykový model sa prispôsobí štýlu interných technických dokumentov.
