Glosario

Token

¿Qué es Token?

Un token es la unidad mínima de texto que procesa un modelo de lenguaje: normalmente un fragmento de palabra, una palabra corta o un signo de puntuación. Los modelos leen las entradas y generan las respuestas token a token, y el tamaño de la ventana de contexto también se mide en tokens. Como los proveedores cobran por tokens de entrada y salida, estos determinan directamente costes y límites: instrucciones largas y mucho conocimiento adicional aumentan el consumo.

Cómo ayuda KI.ordo

KI.ordo te muestra el consumo de tokens y el coste por modelo y te permite fijar un límite mensual de tokens.

Más información →

Temas

LLM
Costes
Conceptos básicos

Probar KI.ordo

Agentes, flujos y plantillas en un solo espacio de trabajo – demo gratuita de 24 horas.

Iniciar demo

← Todos los términos

Términos relacionados

Costes de los LLM

Los costes de los grandes modelos de lenguaje se facturan normalmente por tokens, unidades de texto que van de una sílaba a una palabra; los tokens de entrada y de salida tienen precios distintos y la salida suele ser más cara. Los modelos grandes cuestan más por token que los pequeños y rápidos como Claude Haiku, a menudo suficientes para tareas sencillas. El almacenamiento en caché de prompts reduce costes cuando envías varias veces el mismo contexto largo. También ayudan instrucciones breves y un conocimiento bien seleccionado.

Costes
Tokens
+1

Modelo de lenguaje grande (LLM)

Un modelo de lenguaje grande (Large Language Model, LLM) es una red neuronal entrenada con enormes cantidades de texto, lo que le permite entender y generar lenguaje. Funciona calculando, paso a paso, el siguiente token más probable. Los LLM redactan, resumen, traducen, responden preguntas y generan código; ejemplos conocidos son Claude, GPT, Gemini y Llama. Sin acceso a fuentes actualizadas, solo conocen lo que había en sus datos de entrenamiento.

Modelos de lenguaje
IA generativa
+1

Generación aumentada por caché (CAG)

La generación aumentada por caché (CAG) es un enfoque en el que un modelo de lenguaje no busca el conocimiento en cada pregunta: una base de tamaño manejable se carga de antemano en su ventana de contexto y ese estado se guarda en caché, lo que elimina el paso de búsqueda. El término surgió a finales de 2024 como alternativa a la RAG. Encaja con bases pequeñas y estables; con datos grandes o cambiantes, la RAG suele ser más práctica.

RAG
Ventana de contexto
+1