Glossario

Human-in-the-loop (essere umano nel ciclo)

Che cos’è Human-in-the-loop (essere umano nel ciclo)?

Human-in-the-loop indica processi in cui le persone intervengono in punti definiti di un flusso di IA: verificano i risultati, li approvano, li correggono o gestiscono i casi difficili. Il principio riduce il rischio di output errati e mantiene la responsabilità in capo alle persone, soprattutto nelle decisioni che riguardano individui, denaro o questioni legali. Esempio: un agente IA prepara le risposte ai clienti e un collaboratore le controlla prima dell'invio.

Come aiuta KI.ordo

Nei progetti di KI.ordo gli agenti forniscono bozze che vengono approvate da persone, e la chat del sito può passare la conversazione al team tramite un modulo di contatto.

Scopri di più →

Temi

Approvazione
Controllo
Responsabilità

Prova KI.ordo

Agenti, flussi e modelli in un’unica area di lavoro – demo gratuita di 24 ore.

Avvia demo

← Tutti i termini

Termini correlati

Sistema di automazione con IA

Un sistema di automazione con IA unisce l'automazione classica dei processi a capacità di IA come la comprensione del testo, la classificazione o il supporto decisionale. Diventa così possibile automatizzare anche flussi con input non strutturati, come e-mail, moduli o richieste. Lo schema tipico è una catena di attivazione, passaggi di elaborazione, condizioni e output, con approvazioni umane nei punti critici. Esempio: le richieste in arrivo vengono classificate, riassunte e inoltrate automaticamente al reparto competente.

Automazione
Processi
+1

Agenti intelligenti

Un agente intelligente è un sistema che percepisce l'ambiente, elabora informazioni e sceglie autonomamente le azioni per raggiungere un obiettivo. Oggi il termine indica per lo più software basato su grandi modelli linguistici che segue istruzioni, usa conoscenze e richiama strumenti, come una ricerca o un'API. Quanto un agente possa fare da solo va stabilito consapevolmente. Esempio: un agente risponde alle domande dei clienti basandosi sulla documentazione del prodotto.

Agenti
Autonomia
+1

Reinforcement Learning from Human Feedback (RLHF)

L'RLHF è un metodo di addestramento che rende i modelli linguistici più utili e sicuri. Alcune persone confrontano e valutano più risposte del modello; da questi giudizi si addestra un modello di ricompensa, che poi riaddestra il modello linguistico tramite apprendimento per rinforzo. Così il modello impara, ad esempio, a rispondere in modo più chiaro o a rifiutare richieste problematiche. L'RLHF avviene presso il fornitore del modello prima del rilascio, non presso i singoli utenti.

addestramento
feedback umano
+1

Allucinazione

Si parla di allucinazione quando un modello di IA produce un output convincente ma errato o del tutto inventato, ad esempio una sentenza inesistente, un numero sbagliato o una fonte fittizia. La causa: i modelli linguistici generano formulazioni probabili, non consultano automaticamente i fatti. Il rischio diminuisce se le risposte si basano su fonti verificate, se vengono indicati i riferimenti e se le persone controllano i risultati importanti.

Modelli linguistici
Affidabilità
+1

Modello