Slovar pojmov

Instruction Tuning

Kaj je Instruction Tuning?

Učenje z navodili (instruction tuning) je oblika finega uravnavanja, pri kateri se vnaprej naučen jezikovni model dodatno uči na številnih parih navodil in želenih odgovorov. Tako se model nauči upoštevati naloge, zapisane v naravnem jeziku, namesto da bi besedilo le nadaljeval. Je ključni korak pri pretvorbi osnovnega modela v pomočnika in se pogosto združuje z metodami, kot je RLHF. Primer: „Povzemi to besedilo v treh stavkih“ se izvede zanesljivo.

Kako pomaga KI.ordo

KI.ordo modelov ne uči; uporablja Anthropicove modele Claude, ki so kot pomočniki že naučeni, in njihovo vedenje usmerja z navodili in znanjem.

Več o tem : Instruction Tuning

Teme

  • Fino uravnavanje
  • Jezikovni modeli
  • Training

Preizkusite KI.ordo

Agenti, poteki dela in predloge v enem delovnem prostoru – brezplačna 24-urna predstavitev.

Začni predstavitev
← Vsi pojmi

Sorodni pojmi

Fino uravnavanje

Fino uravnavanje (fine-tuning) pomeni nadaljnje učenje že vnaprej naučenega modela UI na dodatnih, običajno nalogi prilagojenih podatkih. Njegove notranje uteži se prilagodijo, tako da model zanesljiveje obvlada na primer določen slog pisanja, strokovno besedišče ali obliko izpisa. Fino uravnavanje zahteva skrbno pripravljene vzorčne podatke, računsko moč in preizkušanje. Za številne aplikacije zadostujejo dobro napisana navodila in povezano znanje, ki ju je tudi laže spreminjati.

  • Učenje modela
  • Prilagajanje
  • +1

Spodbujevalno učenje s človeško povratno informacijo (RLHF)

RLHF je učna metoda, ki jezikovne modele naredi bolj koristne in varnejše. Ljudje primerjajo in ocenijo več odgovorov modela; iz teh presoj se nauči model nagrajevanja, ki nato jezikovni model samega s spodbujevalnim učenjem dodatno uči. Tako se na primer nauči odgovarjati jasneje ali zavrniti sporne zahteve. RLHF poteka pri ponudniku modela, preden je model objavljen – ne pri posameznih uporabnikih.

  • učenje
  • človeška povratna informacija
  • +1

Veliki jezikovni model (LLM)

Veliki jezikovni model (large language model, LLM) je nevronska mreža, naučena na zelo velikih količinah besedil, kar ji omogoča razumevanje in ustvarjanje jezika. Deluje tako, da korak za korakom izračunava najverjetnejši naslednji token. LLM-ji pišejo, povzemajo, prevajajo, odgovarjajo na vprašanja in ustvarjajo kodo; znani primeri so Claude, GPT, Gemini in Llama. Brez dostopa do aktualnih virov poznajo le tisto, kar je bilo v njihovih učnih podatkih.

  • Jezikovni modeli
  • Generativna UI
  • +1

Prompt

Poziv je vnos, ki modelu UI pove, kaj naj naredi – vprašanje, naloga ali navodilo, pogosto dopolnjeno s kontekstom, primeri in želeno obliko. Kakovost odgovora je močno odvisna od tega, kako jasen in popoln je poziv. Namesto „Napiši nekaj o našem izdelku“ raje zapišite „Napiši tri kratke prednosti izdelka X za obrtna podjetja, v stvarnem tonu“.

  • pozivanje
  • vnos
  • +1
Predloga