Glossario

Cache-augmented generation (CAG)

Che cos’è Cache-augmented generation (CAG)?

La cache-augmented generation (CAG) è un approccio in cui un modello linguistico non cerca le conoscenze a ogni domanda: una base di conoscenza di dimensioni contenute viene caricata in anticipo nella finestra di contesto e questo stato viene memorizzato in cache, eliminando la fase di ricerca. Il termine è nato a fine 2024 come alternativa alla RAG. È adatta a basi piccole e stabili; con dati ampi o mutevoli la RAG resta di solito più pratica.

Come aiuta KI.ordo

Per la conoscenza KI.ordo usa una ricerca per parole chiave BM25 sul server e memorizza in cache le parti ricorrenti delle richieste tramite prompt caching per ridurre i costi.

Scopri di più →

Temi

RAG
Finestra di contesto
Gestione della conoscenza

Prova KI.ordo

Agenti, flussi e modelli in un’unica area di lavoro – demo gratuita di 24 ore.

Avvia demo

← Tutti i termini

Termini correlati

Retrieval-Augmented Generation (RAG)

La Retrieval-Augmented Generation unisce ricerca e generazione di testo: prima di rispondere, il sistema cerca in una raccolta di conoscenze, come manuali, linee guida o FAQ, i passaggi pertinenti e li fornisce al modello linguistico come contesto. La risposta si basa così su contenuti aziendali aggiornati e non solo sulle conoscenze apprese in addestramento. Questo riduce le affermazioni inventate, rende tracciabili le fonti e consente aggiornamenti senza nuovo addestramento.

RAG
ricerca nelle conoscenze
+1

Modello linguistico di grandi dimensioni (LLM)

Un modello linguistico di grandi dimensioni (Large Language Model, LLM) è una rete neurale addestrata su enormi quantità di testo, in grado quindi di comprendere e generare linguaggio. Funziona calcolando passo dopo passo il token successivo più probabile. Gli LLM scrivono, riassumono, traducono, rispondono a domande e generano codice; esempi noti sono Claude, GPT, Gemini e Llama. Senza accesso a fonti aggiornate conoscono solo ciò che era nei dati di addestramento.

Modelli linguistici
IA generativa
+1

Pipeline di retrieval

Una pipeline di retrieval è la sequenza di passaggi con cui un sistema trova le informazioni giuste per una domanda. Di solito comprende: importare e pulire i documenti, suddividerli in sezioni, creare un indice di ricerca, eventualmente riformulare la richiesta, cercare i risultati, ordinarli (reranking) e passare i migliori al modello linguistico. È la base di ogni applicazione RAG e la sua qualità determina in larga misura la bontà delle risposte.

RAG
ricerca
+1

Recupero dell'informazione

Il recupero dell'informazione (information retrieval) comprende i metodi che, in grandi raccolte di testi, trovano i documenti o i passaggi pertinenti a una richiesta e li ordinano per rilevanza. Approcci classici come BM25 pesano i termini in base a frequenza e rarità; quelli più recenti aggiungono la somiglianza semantica. È alla base di motori di ricerca, ricerca aziendale e retrieval-augmented generation, in cui un modello linguistico usa i passaggi trovati come fonte della risposta.

Ricerca
BM25
+1