¿Qué es Generación aumentada por caché (CAG)?
La generación aumentada por caché (CAG) es un enfoque en el que un modelo de lenguaje no busca el conocimiento en cada pregunta: una base de tamaño manejable se carga de antemano en su ventana de contexto y ese estado se guarda en caché, lo que elimina el paso de búsqueda. El término surgió a finales de 2024 como alternativa a la RAG. Encaja con bases pequeñas y estables; con datos grandes o cambiantes, la RAG suele ser más práctica.
Cómo ayuda KI.ordo
Para el conocimiento, KI.ordo usa una búsqueda por palabras clave BM25 en el servidor y guarda en caché las partes recurrentes de las solicitudes (prompt caching) para reducir costes.
Más información →: Generación aumentada por caché (CAG)