Glossario

IA costituzionale

Che cos’è IA costituzionale?

L'IA costituzionale (Constitutional AI) è un metodo di addestramento per modelli linguistici pubblicato da Anthropic nel 2022, non un concetto di diritto costituzionale. Si basa su un elenco scritto di principi, la «costituzione»: il modello critica e rivede le proprie risposte secondo questi principi, poi un'IA confronta coppie di risposte e questi giudizi fungono da segnale di ricompensa nel reinforcement learning (RLAIF). Si riduce così la necessità di valutazioni umane di contenuti dannosi; a gennaio 2026 Anthropic ha pubblicato una costituzione rivista per Claude.

Come aiuta KI.ordo

I modelli Claude di Anthropic usati in KI.ordo sono addestrati anche con questo metodo.

Temi

Addestramento
Sicurezza dell'IA
Anthropic

Prova KI.ordo

Agenti, flussi e modelli in un’unica area di lavoro – demo gratuita di 24 ore.

Avvia demo

← Tutti i termini

Termini correlati

Reinforcement Learning from Human Feedback (RLHF)

L'RLHF è un metodo di addestramento che rende i modelli linguistici più utili e sicuri. Alcune persone confrontano e valutano più risposte del modello; da questi giudizi si addestra un modello di ricompensa, che poi riaddestra il modello linguistico tramite apprendimento per rinforzo. Così il modello impara, ad esempio, a rispondere in modo più chiaro o a rifiutare richieste problematiche. L'RLHF avviene presso il fornitore del modello prima del rilascio, non presso i singoli utenti.

addestramento
feedback umano
+1

Claude

Claude è una famiglia di modelli linguistici di grandi dimensioni dell'azienda statunitense di IA Anthropic. I modelli comprendono e scrivono testi in molte lingue, analizzano documenti, programmano e possono usare strumenti, ad esempio per ricerche o automazioni. Le famiglie più note sono Haiku, Sonnet e Opus, che si differenziano per velocità, costi e capacità. Anthropic pone particolare attenzione alla sicurezza e all'affidabilità del comportamento dei modelli.

Anthropic
modello linguistico
+1

Etica dell'IA

L'etica dell'IA si occupa delle questioni morali legate allo sviluppo e all'uso dell'IA: equità e discriminazione, trasparenza e spiegabilità, protezione dei dati, responsabilità per gli errori, sicurezza ed effetti su lavoro e società. Per le organizzazioni si traduce in linee guida, valutazioni del rischio, supervisione umana e comunicazione onesta sui limiti dell'IA. Esempio: prima di introdurre un filtro per le candidature si verifica che non svantaggi determinati gruppi.

Etica
Responsabilità
+1

Sicurezza degli LLM

La sicurezza degli LLM comprende tutte le misure che proteggono le applicazioni basate su modelli linguistici di grandi dimensioni da abusi, fughe di dati e comportamenti indesiderati. Rischi tipici sono la prompt injection, la divulgazione di istruzioni o dati riservati e agenti con permessi eccessivi. La protezione nasce da più livelli: istruzioni chiare, diritti limitati, controllo di input e output, firewall per l’IA, red teaming e audit regolari.

sicurezza
modelli linguistici
+1

Modello