Qu’est-ce que Génération augmentée par cache (CAG) ?
La génération augmentée par cache (CAG) est une approche dans laquelle un modèle de langage ne cherche pas l'information à chaque question : une base de connaissances limitée est chargée à l'avance dans sa fenêtre de contexte, puis cet état est mis en cache, ce qui supprime l'étape de recherche. Le terme est apparu fin 2024 comme alternative à la RAG. La CAG convient aux bases petites et stables ; pour des données volumineuses ou changeantes, la RAG reste plus pratique.
Ce que fait KI.ordo
Pour les connaissances, KI.ordo utilise une recherche par mots-clés BM25 sur le serveur et met en cache les éléments récurrents des requêtes (prompt caching) pour réduire les coûts.
En savoir plus →: Génération augmentée par cache (CAG)