¿Qué es Costes de los LLM?
Los costes de los grandes modelos de lenguaje se facturan normalmente por tokens, unidades de texto que van de una sílaba a una palabra; los tokens de entrada y de salida tienen precios distintos y la salida suele ser más cara. Los modelos grandes cuestan más por token que los pequeños y rápidos como Claude Haiku, a menudo suficientes para tareas sencillas. El almacenamiento en caché de prompts reduce costes cuando envías varias veces el mismo contexto largo. También ayudan instrucciones breves y un conocimiento bien seleccionado.
Cómo ayuda KI.ordo
KI.ordo muestra tokens y costes por modelo, limita el consumo con un límite mensual de tokens y un crédito de IA por plan, y utiliza caché de prompts.
Más información →: Costes de los LLM