Glossario

Allucinazione

Che cos’è Allucinazione?

Si parla di allucinazione quando un modello di IA produce un output convincente ma errato o del tutto inventato, ad esempio una sentenza inesistente, un numero sbagliato o una fonte fittizia. La causa: i modelli linguistici generano formulazioni probabili, non consultano automaticamente i fatti. Il rischio diminuisce se le risposte si basano su fonti verificate, se vengono indicati i riferimenti e se le persone controllano i risultati importanti.

Come aiuta KI.ordo

Gli agenti di KI.ordo rispondono a partire dalle tue conoscenze, citano le fonti e dicono apertamente quando non sanno qualcosa; il modello «Verifica dei fatti sulle proprie conoscenze» aiuta nel controllo, ma gli errori non si possono escludere del tutto.

Scopri di più →

Modelli adatti

Verifica dei fatti con le proprie conoscenzeVerifica le affermazioni di un testo rispetto alle tue fonti di conoscenza e segna ciascuna come confermata, non confermata o contraddetta, con il passo di riferimento.Vedi modello →

Temi

Modelli linguistici
Affidabilità
Rischio

Prova KI.ordo

Agenti, flussi e modelli in un’unica area di lavoro – demo gratuita di 24 ore.

Avvia demo

← Tutti i termini

Termini correlati

Retrieval-Augmented Generation (RAG)

La Retrieval-Augmented Generation unisce ricerca e generazione di testo: prima di rispondere, il sistema cerca in una raccolta di conoscenze, come manuali, linee guida o FAQ, i passaggi pertinenti e li fornisce al modello linguistico come contesto. La risposta si basa così su contenuti aziendali aggiornati e non solo sulle conoscenze apprese in addestramento. Questo riduce le affermazioni inventate, rende tracciabili le fonti e consente aggiornamenti senza nuovo addestramento.

RAG
ricerca nelle conoscenze
+1

Data limite delle conoscenze (knowledge cutoff)

La data limite delle conoscenze (knowledge cutoff) è il momento fino al quale arrivano i dati di addestramento di un modello linguistico. Eventi, prezzi, leggi o prodotti successivi non sono noti al modello di per sé, che può quindi fornire informazioni superate se non riceve dati aggiornati. Vi si rimedia con metodi che integrano, al momento della richiesta, documenti propri o contenuti web attuali.

LLM
Attualità
+1

Modello linguistico di grandi dimensioni (LLM)

Un modello linguistico di grandi dimensioni (Large Language Model, LLM) è una rete neurale addestrata su enormi quantità di testo, in grado quindi di comprendere e generare linguaggio. Funziona calcolando passo dopo passo il token successivo più probabile. Gli LLM scrivono, riassumono, traducono, rispondono a domande e generano codice; esempi noti sono Claude, GPT, Gemini e Llama. Senza accesso a fonti aggiornate conoscono solo ciò che era nei dati di addestramento.

Modelli linguistici
IA generativa
+1

Human-in-the-loop (essere umano nel ciclo)

Human-in-the-loop indica processi in cui le persone intervengono in punti definiti di un flusso di IA: verificano i risultati, li approvano, li correggono o gestiscono i casi difficili. Il principio riduce il rischio di output errati e mantiene la responsabilità in capo alle persone, soprattutto nelle decisioni che riguardano individui, denaro o questioni legali. Esempio: un agente IA prepara le risposte ai clienti e un collaboratore le controlla prima dell'invio.

Approvazione
Controllo
+1