Slovník pojmov

Parametricky efektívne dolaďovanie (PEFT)

Čo je Parametricky efektívne dolaďovanie (PEFT)?

Parametricky efektívne dolaďovanie (PEFT) zahŕňa techniky, ktoré veľký predtrénovaný model prispôsobia úlohe tak, že trénujú iba malú časť jeho parametrov alebo pridajú niekoľko nových. Medzi známe metódy patria LoRA, QLoRA, adaptéry a prefix tuning. Výrazne tým klesajú nároky na výpočtový výkon a pamäť a namiesto úplných kópií modelu sa pre viaceré úlohy dajú uložiť malé doplnkové moduly. Príklad: jazykový model sa prispôsobí štýlu interných technických dokumentov.

Témy

dolaďovanie
trénovanie
efektívnosť

Vyskúšajte KI.ordo

Agenti, postupy a šablóny v jednom pracovnom priestore – bezplatné 24-hodinové demo.

Spustiť demo

← Všetky pojmy

Súvisiace pojmy

dolaďovanie

Dolaďovanie (fine-tuning) znamená ďalšie trénovanie už vopred natrénovaného modelu AI na dodatočných, zvyčajne úlohovo špecifických údajoch. Jeho vnútorné váhy sa upravia tak, aby model spoľahlivejšie zvládal napríklad určitý štýl písania, odbornú slovnú zásobu alebo výstupný formát. Dolaďovanie vyžaduje starostlivo pripravené príkladové údaje, výpočtový výkon a testovanie. Pre mnohé aplikácie stačia dobre napísané pokyny a pripojené znalosti, ktoré sa dajú ľahšie meniť.

trénovanie modelov
Prispôsobenie
+1

Instruction Tuning

Ladenie podľa pokynov (instruction tuning) je forma dolaďovania, pri ktorej sa vopred natrénovaný jazykový model ďalej trénuje na mnohých dvojiciach pokynov a požadovaných odpovedí. Model sa tak naučí plniť úlohy formulované v prirodzenom jazyku, a nielen pokračovať v texte. Je to kľúčový krok pri premene základného modelu na asistenta a často sa kombinuje s metódami, ako je RLHF. Príklad: pokyn „Zhrň tento text do troch viet“ sa vykoná spoľahlivo.

dolaďovanie
jazykové modely
+1

Transfer Learning

Pri transfer learningu slúži ako východisko pre novú, špecializovanú úlohu model, ktorý sa už naučil veľkú všeobecnú úlohu. Namiesto začínania od nuly sa prispôsobí, napríklad dolaďovaním, pomocou pomerne malého množstva vlastných dát. Šetrí to výpočtový čas aj dáta, napríklad keď sa má všeobecný obrazový model naučiť odhaľovať výrobné chyby na fotografiách.

Strojové učenie
Training
+1

Základný model (foundation model)

Základný model (foundation model) je veľký model AI vopred natrénovaný na veľmi rozsiahlych a rôznorodých údajoch, ktorý sa potom dá použiť na mnoho rôznych úloh. Pojem vznikol na Stanfordskej univerzite v roku 2021. Známymi príkladmi sú veľké jazykové modely, ako Claude alebo GPT, a tiež modely obrázkov. Firmy zvyčajne stavajú svoje aplikácie na takýchto modeloch, namiesto toho, aby od základu trénovali vlastné; akt EÚ o umelej inteligencii hovorí o modeloch AI na všeobecné účely.

Základný model
jazykové modely
+1