IT
AccediInizia ora
Glossario

Prompt leaking

Che cos’è Prompt leaking?

Il prompt leaking è la divulgazione involontaria delle istruzioni interne di un sistema di IA, ad esempio quando un chatbot, davanti a una richiesta astuta, rivela il proprio prompt di sistema. Diventa un problema se contiene logica aziendale, informazioni interne o persino credenziali. L'elenco OWASP per le applicazioni LLM cita espressamente questo rischio. La protezione più efficace: scrivere le istruzioni come se potessero diventare pubbliche, non inserirvi mai segreti e controllare anche gli output.

Come aiuta KI.ordo

Con il modello KI.ordo «Audit di sicurezza del chatbot» si possono verificare le istruzioni degli agenti rispetto a questo rischio; password e altri segreti non vanno mai inseriti.

Scopri di più →: Prompt leaking

Modelli adatti

Temi

  • sicurezza IA
  • prompt di sistema
  • protezione dati

Prova KI.ordo

Agenti, flussi e modelli in un’unica area di lavoro – demo gratuita di 24 ore.

Avvia demo
← Tutti i termini

Termini correlati

Estrazione del prompt di sistema

L'estrazione del prompt di sistema indica i tentativi di indurre un chatbot o un agente IA a rivelare le proprie istruzioni di sistema nascoste. Se il tentativo riesce si parla di prompt leaking: l'estrazione è l'attacco, la fuga di informazioni la conseguenza. Una protezione efficace parte dal non inserire password, chiavi o regole riservate nelle istruzioni e dal presumere che possano diventare pubbliche; controlli sugli input e test regolari completano la difesa.

  • Sicurezza
  • Prompt leaking
  • +1
Modello

Firewall IA

Un firewall IA è un livello di protezione tra utenti, fonti di dati e un modello di IA. Controlla gli input alla ricerca di tentativi di manipolazione come prompt injection o jailbreak e verifica gli output, ad esempio per dati riservati o contenuti indesiderati, prima di inoltrarli. Può basarsi su regole, modelli di classificazione o un secondo modello linguistico. Un firewall IA riduce i rischi, ma non offre una protezione completa e non sostituisce permessi limitati e test.

  • Sicurezza
  • Prompt injection
  • +1
Modello

OWASP LLM Top 10

La OWASP Top 10 per le applicazioni LLM è un elenco dei principali rischi di sicurezza nelle applicazioni basate su modelli linguistici di grandi dimensioni, pubblicato dall’OWASP GenAI Security Project. L’edizione 2026, uscita ad agosto 2026 (aggiornato a ottobre 2026), comprende: prompt injection, divulgazione di informazioni sensibili, autonomia eccessiva, catena di fornitura, avvelenamento di dati e modelli, consumo illimitato, disinformazione, esposizione del contesto nascosto, debolezze di vettori ed embedding e gestione impropria dell’output. Serve da lista di controllo per sviluppo e audit.

  • sicurezza
  • standard
  • +1
Modello

Audit di sicurezza del chatbot

Un audit di sicurezza del chatbot è una verifica strutturata per capire se un chatbot basato sull'IA protegge in modo adeguato dati riservati, istruzioni interne e capacità di agire. Si esaminano, tra l'altro, la vulnerabilità alla prompt injection, la divulgazione involontaria di informazioni e accessi troppo ampi agli strumenti, spesso seguendo la OWASP Top 10 per le applicazioni LLM. Il risultato è un rapporto con una valutazione per area di rischio e misure concrete.

  • sicurezza
  • audit
  • +1
Modello