Sõnastik

Instruction Tuning

Mis on Instruction Tuning?

Juhistega häälestamine (instruction tuning) on peenhäälestuse vorm, kus eeltreenitud keelemudelit treenitakse edasi paljude juhiste ja soovitud vastuste paaridega. See õpetab mudelit järgima loomulikus keeles sõnastatud ülesandeid, mitte lihtsalt teksti jätkama. See on oluline samm baasmudeli muutmisel assistendiks ja seda kombineeritakse sageli selliste meetoditega nagu RLHF. Näide: „Võta see tekst kolme lausega kokku“ täidetakse usaldusväärselt.

Kuidas KI.ordo aitab

KI.ordo ei treeni mudeleid; see kasutab Anthropicu Claude'i mudeleid, mis on juba assistentidena treenitud, ning suunab nende käitumist juhiste ja teadmistega.

Loe lähemalt

Teemad

Peenhäälestus
Keelemudelid
Training

Proovi KI.ordot

Agendid, töövood ja mallid ühes tööruumis – tasuta 24-tunnine demo.

Alusta demot

← Kõik terminid

Seotud terminid

Peenhäälestus

Peenhäälestus (fine-tuning) tähendab juba eeltreenitud TI-mudeli edasitreenimist täiendavate, tavaliselt ülesandespetsiifiliste andmetega. Mudeli sisemisi kaalusid kohandatakse nii, et see tuleb näiteks kindla kirjutusstiili, erialasõnavara või väljundivorminguga usaldusväärsemalt toime. Peenhäälestus nõuab hoolikalt ette valmistatud näiteandmeid, arvutusvõimsust ja testimist. Paljude rakenduste jaoks piisab hästi kirjutatud juhistest ja ühendatud teadmistest ning neid on lihtsam muuta.

Mudeli treenimine
Kohandamine
+1

Stiimulõpe inimese tagasisidest (RLHF)

RLHF on treeningmeetod, mis muudab keelemudelid kasulikumaks ja turvalisemaks. Inimesed võrdlevad ja hindavad mudeli mitut vastust; neid hinnanguid kasutatakse tasumudeli treenimiseks, mis seejärel treenib stiimulõppe abil edasi keelemudelit ennast. See õpetab mudelit näiteks vastama selgemalt või keelduma problemaatilistest päringutest. RLHF toimub mudelipakkuja juures enne mudeli avaldamist – mitte üksikute kasutajatega.

treenimine
inimese tagasiside
+1

Suur keelemudel (LLM)

Suur keelemudel (large language model, LLM) on närvivõrk, mis on treenitud väga suurte tekstihulkadega, mis võimaldab sellel keelest aru saada ja keelt luua. See töötab, arvutades samm-sammult kõige tõenäolisema järgmise tokeni. LLM-id kirjutavad, võtavad kokku, tõlgivad, vastavad küsimustele ja genereerivad koodi; tuntud näited on Claude, GPT, Gemini ja Llama. Ilma juurdepääsuta värsketele allikatele teavad nad ainult seda, mis oli nende treeningandmetes.

Keelemudelid
Generatiivne TI
+1

Prompt

Prompt on sisend, mis ütleb TI-mudelile, mida teha – küsimus, ülesanne või juhis, sageli täiendatud konteksti, näidete ja soovitud vorminguga. Vastuse kvaliteet sõltub suuresti sellest, kui selge ja täielik prompt on. Näiteks „Kirjuta midagi meie toote kohta“ asemel kasuta „Kirjuta kolm lühikest eelist toote X kohta käsitööettevõtetele, asjalikus toonis“.

promptimine
sisend
+1

Mall