Il prompt leaking è la divulgazione involontaria delle istruzioni interne di un sistema di IA, ad esempio quando un chatbot, davanti a una richiesta astuta, rivela il proprio prompt di sistema. Diventa un problema se contiene logica aziendale, informazioni interne o persino credenziali. L'elenco OWASP per le applicazioni LLM cita espressamente questo rischio. La protezione più efficace: scrivere le istruzioni come se potessero diventare pubbliche, non inserirvi mai segreti e controllare anche gli output.
Il jailbreaking indica i tentativi di aggirare le regole di sicurezza di un modello di IA con input formulati ad arte, per fargli produrre contenuti o compiere azioni che dovrebbe rifiutare. Per le aziende è un rischio, perché un chatbot potrebbe, ad esempio, rivelare istruzioni riservate o rispondere in modo inappropriato. Le misure di protezione comprendono istruzioni di sistema chiare, controlli su input e output, permessi limitati, registrazione delle attività e test di sicurezza regolari (red teaming).
Un audit di sicurezza del chatbot è una verifica strutturata per capire se un chatbot basato sull'IA protegge in modo adeguato dati riservati, istruzioni interne e capacità di agire. Si esaminano, tra l'altro, la vulnerabilità alla prompt injection, la divulgazione involontaria di informazioni e accessi troppo ampi agli strumenti, spesso seguendo la OWASP Top 10 per le applicazioni LLM. Il risultato è un rapporto con una valutazione per area di rischio e misure concrete.
La OWASP Top 10 per le applicazioni LLM è un elenco dei principali rischi di sicurezza nelle applicazioni basate su modelli linguistici di grandi dimensioni, pubblicato dall’OWASP GenAI Security Project. L’edizione 2026, uscita ad agosto 2026 (aggiornato a ottobre 2026), comprende: prompt injection, divulgazione di informazioni sensibili, autonomia eccessiva, catena di fornitura, avvelenamento di dati e modelli, consumo illimitato, disinformazione, esposizione del contesto nascosto, debolezze di vettori ed embedding e gestione impropria dell’output. Serve da lista di controllo per sviluppo e audit.
