IT
AccediInizia ora
Glossario

Esfiltrazione di dati

Che cos’è Esfiltrazione di dati?

L'esfiltrazione di dati è il trasferimento non autorizzato di dati al di fuori di un sistema. Nelle applicazioni di IA può avvenire quando un chatbot o un agente viene indotto, tramite input manipolati o contenuti predisposti, ad esempio su una pagina web letta, a rivelare o inoltrare informazioni riservate. Ci si protegge con diritti di accesso minimi, controllo degli input, limiti alle connessioni in uscita e verifica delle risposte.

Come aiuta KI.ordo

Il modello «KI-Firewall» di KI.ordo si può inserire come sottoflusso prima di un agente e blocca gli input che cercano, ad esempio, di ottenere istruzioni di sistema o dati.

Scopri di più →: Esfiltrazione di dati

Modelli adatti

Temi

  • sicurezza IA
  • protezione dei dati
  • prompt injection

Prova KI.ordo

Agenti, flussi e modelli in un’unica area di lavoro – demo gratuita di 24 ore.

Avvia demo
← Tutti i termini

Termini correlati

Firewall IA

Un firewall IA è un livello di protezione tra utenti, fonti di dati e un modello di IA. Controlla gli input alla ricerca di tentativi di manipolazione come prompt injection o jailbreak e verifica gli output, ad esempio per dati riservati o contenuti indesiderati, prima di inoltrarli. Può basarsi su regole, modelli di classificazione o un secondo modello linguistico. Un firewall IA riduce i rischi, ma non offre una protezione completa e non sostituisce permessi limitati e test.

  • Sicurezza
  • Prompt injection
  • +1
Modello

Prompt injection indiretta

Nella prompt injection indiretta le istruzioni manipolatorie non si trovano nell'input dell'utente, ma in contenuti che un sistema di IA elabora durante il lavoro, come pagine web, e-mail o documenti. Leggendoli, un agente può scambiare comandi nascosti per incarichi reali e, ad esempio, rivelare dati. Tra le misure di protezione: trattare i contenuti esterni rigorosamente come dati, limitare i permessi, controllare gli input e far approvare a una persona le azioni critiche.

  • Sicurezza
  • Prompt injection
  • +1
Modello

Prompt leaking

Il prompt leaking è la divulgazione involontaria delle istruzioni interne di un sistema di IA, ad esempio quando un chatbot, davanti a una richiesta astuta, rivela il proprio prompt di sistema. Diventa un problema se contiene logica aziendale, informazioni interne o persino credenziali. L'elenco OWASP per le applicazioni LLM cita espressamente questo rischio. La protezione più efficace: scrivere le istruzioni come se potessero diventare pubbliche, non inserirvi mai segreti e controllare anche gli output.

  • sicurezza IA
  • prompt di sistema
  • +1
Modello

Sicurezza degli LLM

La sicurezza degli LLM comprende tutte le misure che proteggono le applicazioni basate su modelli linguistici di grandi dimensioni da abusi, fughe di dati e comportamenti indesiderati. Rischi tipici sono la prompt injection, la divulgazione di istruzioni o dati riservati e agenti con permessi eccessivi. La protezione nasce da più livelli: istruzioni chiare, diritti limitati, controllo di input e output, firewall per l’IA, red teaming e audit regolari.

  • sicurezza
  • modelli linguistici
  • +1
Modello