Slovník pojmov

dolaďovanie

Čo je dolaďovanie?

Dolaďovanie (fine-tuning) znamená ďalšie trénovanie už vopred natrénovaného modelu AI na dodatočných, zvyčajne úlohovo špecifických údajoch. Jeho vnútorné váhy sa upravia tak, aby model spoľahlivejšie zvládal napríklad určitý štýl písania, odbornú slovnú zásobu alebo výstupný formát. Dolaďovanie vyžaduje starostlivo pripravené príkladové údaje, výpočtový výkon a testovanie. Pre mnohé aplikácie stačia dobre napísané pokyny a pripojené znalosti, ktoré sa dajú ľahšie meniť.

Ako pomáha KI.ordo

KI.ordo modely znova netrénuje; agentov prispôsobuje pomocou pokynov a vašich vlastných znalostí, takže zmeny sa prejavia okamžite.

Zistiť viac

Témy

trénovanie modelov
Prispôsobenie
jazykové modely

Vyskúšajte KI.ordo

Agenti, postupy a šablóny v jednom pracovnom priestore – bezplatné 24-hodinové demo.

Spustiť demo

← Všetky pojmy

Súvisiace pojmy

Parametricky efektívne dolaďovanie (PEFT)

Parametricky efektívne dolaďovanie (PEFT) zahŕňa techniky, ktoré veľký predtrénovaný model prispôsobia úlohe tak, že trénujú iba malú časť jeho parametrov alebo pridajú niekoľko nových. Medzi známe metódy patria LoRA, QLoRA, adaptéry a prefix tuning. Výrazne tým klesajú nároky na výpočtový výkon a pamäť a namiesto úplných kópií modelu sa pre viaceré úlohy dajú uložiť malé doplnkové moduly. Príklad: jazykový model sa prispôsobí štýlu interných technických dokumentov.

dolaďovanie
trénovanie
+1

Instruction Tuning

Ladenie podľa pokynov (instruction tuning) je forma dolaďovania, pri ktorej sa vopred natrénovaný jazykový model ďalej trénuje na mnohých dvojiciach pokynov a požadovaných odpovedí. Model sa tak naučí plniť úlohy formulované v prirodzenom jazyku, a nielen pokračovať v texte. Je to kľúčový krok pri premene základného modelu na asistenta a často sa kombinuje s metódami, ako je RLHF. Príklad: pokyn „Zhrň tento text do troch viet“ sa vykoná spoľahlivo.

dolaďovanie
jazykové modely
+1

Transfer Learning

Pri transfer learningu slúži ako východisko pre novú, špecializovanú úlohu model, ktorý sa už naučil veľkú všeobecnú úlohu. Namiesto začínania od nuly sa prispôsobí, napríklad dolaďovaním, pomocou pomerne malého množstva vlastných dát. Šetrí to výpočtový čas aj dáta, napríklad keď sa má všeobecný obrazový model naučiť odhaľovať výrobné chyby na fotografiách.

Strojové učenie
Training
+1

Retrieval-augmented generation (RAG)

Retrieval-augmented generation spája vyhľadávanie s generovaním textu: pred odpoveďou systém vyhľadá relevantné pasáže v zbierke znalostí – napríklad v príručkách, smerniciach alebo FAQ – a odovzdá ich jazykovému modelu ako kontext. Odpoveď tak vychádza z aktuálneho obsahu špecifického pre firmu, a nielen z trénovacích znalostí modelu. Znižuje to vymyslené tvrdenia, zviditeľňuje zdroje a umožňuje aktualizácie bez pretrénovania.

RAG
vyhľadávanie v znalostiach
+1