NL
InloggenAan de slag
Woordenlijst

Data-exfiltratie

Wat is Data-exfiltratie?

Data-exfiltratie is het ongeautoriseerd overbrengen van gegevens uit een systeem. Bij AI-toepassingen kan dit gebeuren wanneer een chatbot of agent door gemanipuleerde invoer of voorbereide inhoud – bijvoorbeeld op een webpagina die hij leest – wordt gebracht vertrouwelijke informatie prijs te geven of door te sturen. Bescherming bestaat uit minimale toegangsrechten, invoercontroles, beperkingen op uitgaande verbindingen en monitoring van antwoorden.

Hoe KI.ordo helpt

Het KI.ordo-sjabloon ‘AI-firewall’ kan als subworkflow voor een agent worden geplaatst en houdt invoer tegen die bijvoorbeeld systeeminstructies of gegevens probeert te achterhalen.

Meer informatie : Data-exfiltratie

Passende sjablonen

Onderwerpen

  • AI-beveiliging
  • gegevensbescherming
  • prompt injection

KI.ordo uitproberen

Agents, workflows en sjablonen in één werkruimte – gratis demo van 24 uur.

Demo starten
← Alle begrippen

Verwante begrippen

AI-firewall

Een AI-firewall is een beschermende laag tussen gebruikers, gegevensbronnen en een AI-model. Hij screent invoer op manipulatiepogingen zoals prompt injection of jailbreaks en controleert uitvoer, bijvoorbeeld op vertrouwelijke gegevens of ongewenste inhoud, voordat die wordt doorgegeven. Hij kan gebruikmaken van regels, classificatiemodellen of een tweede taalmodel. Een AI-firewall verkleint het risico, maar biedt geen volledige bescherming en vervangt noch beperkte rechten noch testen.

  • Beveiliging
  • Prompt injection
  • +1
Sjabloon

Indirecte prompt injection

Bij een indirecte prompt injection staan manipulatieve instructies niet in de invoer van de gebruiker, maar zijn ze verborgen in inhoud die een AI-systeem onderweg verwerkt, zoals webpagina’s, e-mails of documenten. Wanneer een agent zulke inhoud leest, kan hij verborgen commando’s aanzien voor echte taken en bijvoorbeeld gegevens prijsgeven. Beveiligingsmaatregelen zijn onder meer externe inhoud strikt als data behandelen, rechten beperken, invoer screenen en voor kritieke acties menselijke goedkeuring eisen.

  • Beveiliging
  • Prompt injection
  • +1
Sjabloon

Prompt leaking

Prompt leaking is het onbedoeld openbaar worden van de interne instructies van een AI-systeem, bijvoorbeeld wanneer een chatbot zijn systeemprompt prijsgeeft na een slim geformuleerd verzoek. Dat wordt een probleem als die instructies bedrijfslogica, interne informatie of zelfs inloggegevens bevatten. De OWASP-lijst voor LLM-toepassingen noemt dit risico uitdrukkelijk. De meest effectieve bescherming is instructies te schrijven alsof ze openbaar kunnen worden, er nooit geheimen in op te slaan en ook de uitvoer te controleren.

  • AI-beveiliging
  • systeemprompt
  • +1
Sjabloon

LLM-beveiliging

LLM-beveiliging omvat alle maatregelen die toepassingen op basis van grote taalmodellen beschermen tegen misbruik, datalekken en ongewenst gedrag. Typische risico’s zijn prompt injection, het prijsgeven van vertrouwelijke instructies of gegevens, en agents met te ruime rechten. Bescherming komt uit meerdere lagen: duidelijke instructies, beperkte rechten, controles op invoer en uitvoer, AI-firewalls, red teaming en regelmatige audits.

  • beveiliging
  • taalmodellen
  • +1
Sjabloon