Terminų žodynas

Instruction Tuning

Kas yra Instruction Tuning?

Nurodymų derinimas (instruction tuning) – tai tikslinio derinimo forma, kai iš anksto apmokytas kalbos modelis toliau mokomas su daugybe nurodymų ir pageidaujamų atsakymų porų. Taip modelis išmoksta vykdyti natūralia kalba suformuluotas užduotis, o ne vien tęsti tekstą. Tai pagrindinis žingsnis bazinį modelį paverčiant asistentu, ir dažnai derinamas su tokiais metodais kaip RLHF. Pavyzdys: nurodymas „Apibendrink šį tekstą trimis sakiniais“ įvykdomas patikimai.

Kaip padeda KI.ordo

KI.ordo modelių neapmoko; ji naudoja „Anthropic“ „Claude“ modelius, kurie jau apmokyti kaip asistentai, ir jų elgesį valdo nurodymais bei žiniomis.

Sužinoti daugiau

Temos

tikslinis derinimas (fine-tuning)
kalbos modeliai
Training

Išbandykite KI.ordo

Agentai, srautai ir šablonai vienoje darbo srityje – nemokama 24 valandų demonstracinė versija.

Pradėti demonstraciją

← Visi terminai

Susiję terminai

tikslinis derinimas (fine-tuning)

Tikslinis derinimas (fine-tuning) reiškia jau iš anksto apmokyto DI modelio tolesnį mokymą papildomais, paprastai konkrečiai užduočiai skirtais duomenimis. Koreguojami jo vidiniai svoriai, kad modelis patikimiau tvarkytų, pavyzdžiui, tam tikrą rašymo stilių, specialią leksiką ar išvesties formatą. Tikslinis derinimas reikalauja kruopščiai paruoštų pavyzdinių duomenų, skaičiavimo galios ir testavimo. Daugeliui taikymų pakanka gerai parašytų nurodymų ir prijungtų žinių, ir juos lengviau keisti.

modelių mokymas
pritaikymas
+1

Skatinamasis mokymasis iš žmogaus grįžtamojo ryšio (RLHF)

RLHF – mokymo metodas, daro kalbos modelius naudingesnius ir saugesnius. Žmonės palygina ir įvertina kelis modelio atsakymus; šie vertinimai naudojami atlygio modeliui apmokyti, kuris paskui skatinamuoju mokymusi toliau moko patį kalbos modelį. Taip jis išmoksta, pavyzdžiui, atsakyti aiškiau arba atsisakyti problemiškų prašymų. RLHF vyksta pas modelio tiekėją prieš išleidžiant modelį – o ne su atskirais naudotojais.

mokymas
žmogaus grįžtamasis ryšys
+1

Didysis kalbos modelis (LLM)

Didysis kalbos modelis (angl. large language model, LLM) – tai neuroninis tinklas, apmokytas su labai dideliais teksto kiekiais, todėl gebantis suprasti ir generuoti kalbą. Jis veikia žingsnis po žingsnio skaičiuodamas labiausiai tikėtiną kitą tokeną. LLM rašo, apibendrina, verčia, atsako į klausimus ir generuoja kodą; gerai žinomi pavyzdžiai – „Claude“, GPT, „Gemini“ ir „Llama“. Neturėdami prieigos prie aktualių šaltinių, jie žino tik tai, kas buvo jų mokymo duomenyse.

kalbos modeliai
generatyvinis DI
+1

Prompt

Užklausa (angl. prompt) – tai įvestis, kuri nurodo DI modeliui, ką daryti: klausimas, užduotis ar nurodymas, dažnai papildytas kontekstu, pavyzdžiais ir norimu formatu. Atsakymo kokybė labai priklauso nuo to, kokia aiški ir išsami yra užklausa. Pavyzdžiui, užuot rašius „Parašyk ką nors apie mūsų produktą“, geriau: „Parašyk tris trumpus produkto X privalumus amatininkų verslui, dalykiniu tonu“.

užklausų formulavimas
įvestis
+1

Šablonas