IT
AccediInizia ora
Glossario

OWASP LLM Top 10

Che cos’è OWASP LLM Top 10?

La OWASP Top 10 per le applicazioni LLM è un elenco dei principali rischi di sicurezza nelle applicazioni basate su modelli linguistici di grandi dimensioni, pubblicato dall’OWASP GenAI Security Project. L’edizione 2026, uscita ad agosto 2026 (aggiornato a ottobre 2026), comprende: prompt injection, divulgazione di informazioni sensibili, autonomia eccessiva, catena di fornitura, avvelenamento di dati e modelli, consumo illimitato, disinformazione, esposizione del contesto nascosto, debolezze di vettori ed embedding e gestione impropria dell’output. Serve da lista di controllo per sviluppo e audit.

Come aiuta KI.ordo

Il modello KI.ordo “Audit di sicurezza del chatbot” valuta istruzioni e conversazioni di esempio di un agente secondo le aree di rischio della OWASP Top 10 per le applicazioni LLM.

Scopri di più →: OWASP LLM Top 10

Modelli adatti

Temi

  • sicurezza
  • standard
  • audit

Prova KI.ordo

Agenti, flussi e modelli in un’unica area di lavoro – demo gratuita di 24 ore.

Avvia demo
← Tutti i termini

Termini correlati

Sicurezza degli LLM

La sicurezza degli LLM comprende tutte le misure che proteggono le applicazioni basate su modelli linguistici di grandi dimensioni da abusi, fughe di dati e comportamenti indesiderati. Rischi tipici sono la prompt injection, la divulgazione di istruzioni o dati riservati e agenti con permessi eccessivi. La protezione nasce da più livelli: istruzioni chiare, diritti limitati, controllo di input e output, firewall per l’IA, red teaming e audit regolari.

  • sicurezza
  • modelli linguistici
  • +1
Modello

Prompt injection indiretta

Nella prompt injection indiretta le istruzioni manipolatorie non si trovano nell'input dell'utente, ma in contenuti che un sistema di IA elabora durante il lavoro, come pagine web, e-mail o documenti. Leggendoli, un agente può scambiare comandi nascosti per incarichi reali e, ad esempio, rivelare dati. Tra le misure di protezione: trattare i contenuti esterni rigorosamente come dati, limitare i permessi, controllare gli input e far approvare a una persona le azioni critiche.

  • Sicurezza
  • Prompt injection
  • +1
Modello

Audit di sicurezza del chatbot

Un audit di sicurezza del chatbot è una verifica strutturata per capire se un chatbot basato sull'IA protegge in modo adeguato dati riservati, istruzioni interne e capacità di agire. Si esaminano, tra l'altro, la vulnerabilità alla prompt injection, la divulgazione involontaria di informazioni e accessi troppo ampi agli strumenti, spesso seguendo la OWASP Top 10 per le applicazioni LLM. Il risultato è un rapporto con una valutazione per area di rischio e misure concrete.

  • sicurezza
  • audit
  • +1
Modello

Prompt leaking

Il prompt leaking è la divulgazione involontaria delle istruzioni interne di un sistema di IA, ad esempio quando un chatbot, davanti a una richiesta astuta, rivela il proprio prompt di sistema. Diventa un problema se contiene logica aziendale, informazioni interne o persino credenziali. L'elenco OWASP per le applicazioni LLM cita espressamente questo rischio. La protezione più efficace: scrivere le istruzioni come se potessero diventare pubbliche, non inserirvi mai segreti e controllare anche gli output.

  • sicurezza IA
  • prompt di sistema
  • +1
Modello