NL
InloggenAan de slag
Woordenlijst

Extractie van systeemprompts

Wat is Extractie van systeemprompts?

Extractie van systeemprompts beschrijft pogingen om een chatbot of AI-agent zijn verborgen systeeminstructies te laten onthullen. Slaagt zo’n poging, dan spreekt men van prompt leaking: extractie is de aanval, het lek het gevolg. Effectieve bescherming begint ermee wachtwoorden, sleutels en vertrouwelijke regels buiten de opdracht te houden en ervan uit te gaan dat ze openbaar kunnen worden; invoercontroles en regelmatig testen zorgen voor extra waarborgen.

Hoe KI.ordo helpt

Het KI.ordo-sjabloon “Beveiligingsaudit chatbot” controleert de opdracht van een agent op risico’s zoals openbaar geworden systeeminstructies en levert onschuldige zelftestvragen.

Meer informatie : Extractie van systeemprompts

Passende sjablonen

Onderwerpen

  • Beveiliging
  • Prompt leaking
  • Chatbots

KI.ordo uitproberen

Agents, workflows en sjablonen in één werkruimte – gratis demo van 24 uur.

Demo starten
← Alle begrippen

Verwante begrippen

Prompt leaking

Prompt leaking is het onbedoeld openbaar worden van de interne instructies van een AI-systeem, bijvoorbeeld wanneer een chatbot zijn systeemprompt prijsgeeft na een slim geformuleerd verzoek. Dat wordt een probleem als die instructies bedrijfslogica, interne informatie of zelfs inloggegevens bevatten. De OWASP-lijst voor LLM-toepassingen noemt dit risico uitdrukkelijk. De meest effectieve bescherming is instructies te schrijven alsof ze openbaar kunnen worden, er nooit geheimen in op te slaan en ook de uitvoer te controleren.

  • AI-beveiliging
  • systeemprompt
  • +1
Sjabloon

Jailbreaking

Jailbreaking verwijst naar pogingen om de veiligheidsregels van een AI-model te omzeilen met slim geformuleerde invoer, zodat het inhoud produceert of acties uitvoert die het zou moeten weigeren. Voor organisaties is dit een risico, omdat een chatbot bijvoorbeeld vertrouwelijke instructies kan prijsgeven of ongepast kan reageren. Beschermende maatregelen zijn duidelijke systeeminstructies, screening van invoer en uitvoer, beperkte rechten, logging en regelmatige beveiligingstests (red teaming).

  • Beveiliging
  • Misbruikpreventie
  • +1
Sjabloon

Beveiligingsaudit voor chatbots

Een beveiligingsaudit voor chatbots is een gestructureerde controle of een AI-chatbot vertrouwelijke gegevens, zijn interne opdracht en zijn bevoegdheden om te handelen voldoende beschermt. Daarbij wordt onder meer gekeken naar de gevoeligheid voor prompt injection, onbedoelde openbaarmaking van informatie en te ruime toegang tot tools – vaak aan de hand van de OWASP Top 10 voor LLM-toepassingen. Het resultaat is een rapport met een beoordeling per risicogebied en concrete maatregelen.

  • beveiliging
  • audit
  • +1
Sjabloon

OWASP LLM Top 10

De OWASP Top 10 for LLM Applications is een lijst van de belangrijkste beveiligingsrisico’s in toepassingen die op grote taalmodellen zijn gebouwd, gepubliceerd door het OWASP GenAI Security Project. De actuele editie van 2026 verscheen in augustus 2026 (stand oktober 2026) en omvat: prompt injection, openbaarmaking van gevoelige informatie, buitensporige handelingsvrijheid (excessive agency), toeleveringsketen, vergiftiging van gegevens en modellen, onbegrensd verbruik, misinformatie, blootstelling van verborgen context, kwetsbaarheden van vectoren en embeddings, en onjuiste verwerking van uitvoer. De lijst dient als checklist voor ontwikkeling en audits.

  • beveiliging
  • standaard
  • +1
Sjabloon