Woordenlijst

Token

Wat is Token?

Een token is de kleinste eenheid tekst die een taalmodel verwerkt, meestal een deel van een woord, een kort woord of een leesteken. Modellen lezen invoer en genereren antwoorden token voor token, en ook de omvang van het contextvenster wordt in tokens gemeten. Omdat aanbieders kosten rekenen voor invoer- en uitvoertokens, bepalen tokens direct de kosten en grenzen: lange opdrachten en uitgebreide achtergrondkennis verhogen het verbruik.

Hoe KI.ordo helpt

KI.ordo toont het tokenverbruik en de kosten per model en laat u een maandelijkse tokenlimiet instellen.

Meer informatie

Onderwerpen

LLM
Kosten
Basis

KI.ordo uitproberen

Agents, workflows en sjablonen in één werkruimte – gratis demo van 24 uur.

Demo starten

← Alle begrippen

Verwante begrippen

LLM-kosten

De kosten van grote taalmodellen worden meestal per token in rekening gebracht, dat wil zeggen tekstunits ter grootte van ongeveer een lettergreep tot een woord; invoer- en uitvoertokens worden apart geprijsd, waarbij uitvoer doorgaans duurder is. Grotere modellen kosten per token meer dan kleine, snelle modellen zoals Claude Haiku, die voor eenvoudige taken vaak volstaan. Prompt caching verlaagt de kosten wanneer dezelfde lange context herhaaldelijk wordt verstuurd. Beknopte instructies en zorgvuldig gekozen kennis helpen ook.

Kosten
Tokens
+1

Groot taalmodel (LLM)

Een groot taalmodel (large language model, LLM) is een neuraal netwerk dat is getraind op zeer grote hoeveelheden tekst, waardoor het taal kan begrijpen en genereren. Het werkt door stap voor stap het meest waarschijnlijke volgende token te berekenen. LLM’s schrijven, vatten samen, vertalen, beantwoorden vragen en genereren code; bekende voorbeelden zijn Claude, GPT, Gemini en Llama. Zonder toegang tot actuele bronnen weten ze alleen wat in hun trainingsdata stond.

Taalmodellen
Generatieve AI
+1

Cache-augmented generation (CAG)

Cache-augmented generation (CAG) is een aanpak waarbij een taalmodel niet bij elke vraag naar kennis zoekt. In plaats daarvan wordt een overzichtelijke kennisbank vooraf in het contextvenster geladen en wordt die toestand gecachet, zodat antwoorden geen aparte zoekstap nodig hebben. De term werd populair door een onderzoeksartikel van eind 2024 als alternatief voor retrieval-augmented generation (RAG). CAG is geschikt voor kleine, stabiele kennisbanken; voor grote of vaak veranderende data blijft RAG meestal praktischer.

RAG
Contextvenster
+1