Pojmovnik

Veliki jezični model (LLM)

Što je Veliki jezični model (LLM)?

Veliki jezični model (LLM) neuronska je mreža trenirana na vrlo velikim količinama teksta, zahvaljujući čemu može razumjeti i generirati jezik. Radi tako da korak po korak izračunava najvjerojatniji sljedeći token. LLM-ovi pišu, sažimaju, prevode, odgovaraju na pitanja i generiraju kod; poznati primjeri su Claude, GPT, Gemini i Llama. Bez pristupa aktualnim izvorima znaju samo ono što je bilo u njihovim podacima za treniranje.

Kako KI.ordo pomaže

KI.ordo koristi velike jezične modele iz obitelji Claude tvrtke Anthropic i kombinira ih s uputama i vašim vlastitim znanjem.

Saznajte više

Teme

Jezični modeli
Generativna UI
Temeljni pojam

Isprobajte KI.ordo

Agenti, tijekovi rada i predlošci u jednom radnom prostoru – besplatna demo verzija na 24 sata.

Pokrenite demo

← Svi pojmovi

Srodni pojmovi

Transformer

Transformer je arhitektura neuronskih mreža predstavljena 2017. u istraživačkom radu „Attention Is All You Need“. U njezinoj je jezgri mehanizam pažnje: svaka riječ vaga se u odnosu na sve ostale riječi u tekstu, a izračun se može učinkovito paralelizirati. Transformeri su temelj današnjih jezičnih modela poput GPT-a, Claudea i BERT-a, a koriste se i za slike i zvuk.

Arhitektura
Duboko učenje
+1

Token

Token je najmanja jedinica teksta koju jezični model obrađuje, obično dio riječi, kratka riječ ili interpunkcijski znak. Modeli čitaju ulaze i generiraju odgovore token po token, a i veličina kontekstnog prozora mjeri se u tokenima. Budući da pružatelji naplaćuju ulazne i izlazne tokene, tokeni izravno određuju troškove i ograničenja: dugačke upute i opsežno pozadinsko znanje povećavaju potrošnju.

LLM
Troškovi
+1

Temeljni model (foundation model)

Temeljni model (foundation model) velik je UI model unaprijed treniran na vrlo opsežnim, raznovrsnim podacima, koji se zatim može koristiti za mnoge različite zadatke. Pojam je skovan 2021. na Sveučilištu Stanford. Poznati primjeri uključuju velike jezične modele poput Claudea ili GPT-a te modele za slike. Tvrtke svoje aplikacije obično grade na takvim modelima umjesto da treniraju vlastite od nule; Akt EU-a o umjetnoj inteligenciji odnosi se na UI modele opće namjene.

Osnovni model
Jezični modeli
+1

Claude

Claude je obitelj velikih jezičnih modela američke tvrtke za UI Anthropic. Modeli razumiju i pišu tekst na mnogim jezicima, analiziraju dokumente, pišu kod i mogu koristiti alate, primjerice za istraživanje ili automatizaciju. Najpoznatije su obitelji modela Haiku, Sonnet i Opus, koje se razlikuju po brzini, trošku i sposobnostima. Anthropic posebno naglašava sigurnost i pouzdano ponašanje modela.

Anthropic
jezični model
+1