Slovar pojmov

Veliki jezikovni model (LLM)

Kaj je Veliki jezikovni model (LLM)?

Veliki jezikovni model (large language model, LLM) je nevronska mreža, naučena na zelo velikih količinah besedil, kar ji omogoča razumevanje in ustvarjanje jezika. Deluje tako, da korak za korakom izračunava najverjetnejši naslednji token. LLM-ji pišejo, povzemajo, prevajajo, odgovarjajo na vprašanja in ustvarjajo kodo; znani primeri so Claude, GPT, Gemini in Llama. Brez dostopa do aktualnih virov poznajo le tisto, kar je bilo v njihovih učnih podatkih.

Kako pomaga KI.ordo

KI.ordo uporablja velike jezikovne modele iz družine Claude podjetja Anthropic in jih združuje z navodili in vašim znanjem.

Več o tem

Teme

Jezikovni modeli
Generativna UI
temeljni pojem

Preizkusite KI.ordo

Agenti, poteki dela in predloge v enem delovnem prostoru – brezplačna 24-urna predstavitev.

Začni predstavitev

← Vsi pojmi

Sorodni pojmi

Transformer

Transformer je arhitektura nevronskih mrež, predstavljena leta 2017 v raziskovalnem članku „Attention Is All You Need“. Jedro je mehanizem pozornosti: vsaka beseda se pretehta glede na vse druge besede v besedilu, izračun pa je mogoče učinkovito vzporediti. Transformerji so podlaga današnjih jezikovnih modelov, kot so GPT, Claude in BERT, uporabljajo pa se tudi za slike in zvok.

Arhitektura
Globoko učenje
+1

Token

Token je najmanjša enota besedila, ki jo obdeluje jezikovni model, običajno del besede, kratka beseda ali ločilo. Modeli vhode berejo in odgovore ustvarjajo token za tokenom, tudi velikost kontekstnega okna pa se meri v tokenih. Ker ponudniki zaračunavajo vhodne in izhodne tokene, ti neposredno določajo stroške in omejitve: dolga navodila in obsežno predznanje povečajo porabo.

LLM
Stroški
+1

Temeljni model

Temeljni model (foundation model) je velik model UI, vnaprej naučen na zelo obsežnih, raznovrstnih podatkih, ki ga je mogoče nato uporabiti za številne različne naloge. Izraz je leta 2021 skoval Stanfordski univerzitet. Znani primeri so veliki jezikovni modeli, kot sta Claude ali GPT, pa tudi slikovni modeli. Podjetja svoje aplikacije običajno gradijo na takšnih modelih, namesto da bi lastne učila povsem od začetka; Akt EU o umetni inteligenci govori o modelih UI za splošne namene.

Osnovni model
Jezikovni modeli
+1

Claude

Claude je družina velikih jezikovnih modelov ameriškega podjetja za UI Anthropic. Modeli razumejo in pišejo besedila v številnih jezikih, analizirajo dokumente, pišejo kodo in lahko uporabljajo orodja, na primer za raziskave ali avtomatizacijo. Najbolj znane so družine modelov Haiku, Sonnet in Opus, ki se razlikujejo po hitrosti, stroških in zmogljivosti. Anthropic daje poseben poudarek varnosti in zanesljivemu vedenju modelov.

Anthropic
jezikovni model
+1