Glosārijs

Pielāgošana (fine-tuning)

Kas ir Pielāgošana (fine-tuning)?

Pielāgošana (fine-tuning) nozīmē jau iepriekš apmācīta MI modeļa tālāku apmācību ar papildu, parasti konkrētam uzdevumam paredzētiem datiem. Tā iekšējie svari tiek pielāgoti, lai modelis drošāk apstrādātu, piemēram, noteiktu rakstības stilu, nozares leksiku vai izvades formātu. Pielāgošanai nepieciešami rūpīgi sagatavoti piemēru dati, skaitļošanas jauda un testēšana. Daudzām lietojumprogrammām pietiek ar labi uzrakstītiem norādījumiem un pieslēgtām zināšanām, un tos ir vieglāk mainīt.

Kā palīdz KI.ordo

KI.ordo modeļus nepārapmāca; tas aģentus pielāgo ar norādījumiem un jūsu zināšanām, tāpēc izmaiņas stājas spēkā uzreiz.

Uzzināt vairāk

Tēmas

Modeļu apmācība
Pielāgošana
Valodas modeļi

Izmēģiniet KI.ordo

Aģenti, plūsmas un veidnes vienā darbvietā – bezmaksas 24 stundu demo.

Sākt demo

← Visi termini

Saistītie termini

Parametru efektīva precizēšana (PEFT)

Parametru efektīva precizēšana (PEFT) aptver paņēmienus, kas lielu iepriekš apmācītu modeli pielāgo uzdevumam, apmācot tikai nelielu daļu tā parametru vai pievienojot dažus papildu parametrus. Pazīstamas metodes ir LoRA, QLoRA, adapteri un prefiksu precizēšana. Tas ievērojami samazina skaitļošanas un atmiņas prasības, un vairākiem uzdevumiem var glabāt nelielus papildmoduļus pilnu modeļa kopiju vietā. Piemērs: valodas modelis tiek pielāgots iekšējo tehnisko dokumentu stilam.

precizēšana
apmācība
+1

Instruction Tuning

Norādījumu pielāgošana (instruction tuning) ir pielāgošanas (fine-tuning) forma, kurā iepriekš apmācīts valodas modelis tiek tālāk apmācīts ar daudziem norādījumu un vēlamo atbilžu pāriem. Tas modeli māca izpildīt dabiskā valodā formulētus uzdevumus, nevis tikai turpināt tekstu. Tas ir svarīgs solis, pārvēršot bāzes modeli par asistentu, un to bieži apvieno ar tādām metodēm kā RLHF. Piemērs: „Apkopo šo tekstu trīs teikumos” tiek izpildīts droši.

Pielāgošana (fine-tuning)
Valodas modeļi
+1

Transfer Learning

Pārneses mācīšanās gadījumā modelis, kas jau apguvis plašu vispārīgu uzdevumu, kalpo kā sākumpunkts jaunam, specializētam modelim. Tā vietā, lai sāktu no nulles, tas tiek pielāgots, piemēram, ar precizēšanu, izmantojot samērā nelielu savu datu apjomu. Tas ietaupa skaitļošanas laiku un datus, piemēram, ja vispārīgam attēlu modelim jāiemācās atrast ražošanas defektus fotogrāfijās.

Mašīnmācīšanās
Training
+1

Ar izgūšanu papildināta ģenerēšana (RAG)

Ar izgūšanu papildināta ģenerēšana apvieno meklēšanu ar teksta ģenerēšanu: pirms atbildes sniegšanas sistēma zināšanu krājumā — piemēram, rokasgrāmatās, politikās vai BUJ — meklē atbilstošus fragmentus un nodod tos valodas modelim kā kontekstu. Tādējādi atbilde balstās uz aktuālu, uzņēmumam raksturīgu saturu, nevis tikai uz modeļa apmācības zināšanām. Tas samazina izdomātus apgalvojumus, padara avotus izsekojamus un ļauj atjaunināt bez atkārtotas apmācības.

RAG
zināšanu meklēšana
+1