NL
InloggenAan de slag
Woordenlijst

AI-red-teaming

Wat is AI-red-teaming?

AI-red-teaming is het gestructureerd onderzoeken van een AI-systeem vanuit het perspectief van potentiële aanvallers of misbruik. Specialisten testen gecontroleerd of een chatbot zijn vertrouwelijke opdracht prijsgeeft, tot ongewenst gedrag kan worden verleid, onjuiste feiten levert of gegevens blootlegt. De bevindingen leiden tot betere opdrachten, filters en rechten. Een beveiligingsaudit voor chatbots is een lichtere vorm: die beoordeelt de configuratie en voorbeeldgesprekken aan de hand van bekende risicogebieden zoals de OWASP Top 10 voor LLM-toepassingen.

Hoe KI.ordo helpt

Het KI.ordo-sjabloon “Beveiligingsaudit voor chatbots” beoordeelt de opdracht en voorbeeldgesprekken aan de hand van de OWASP-risicogebieden en stelt onschuldige zelftestvragen voor; het vervangt geen uitgebreide red teaming door specialisten.

Meer informatie : AI-red-teaming

Passende sjablonen

Onderwerpen

  • AI-beveiliging
  • Beveiligingstests
  • Chatbot

KI.ordo uitproberen

Agents, workflows en sjablonen in één werkruimte – gratis demo van 24 uur.

Demo starten
← Alle begrippen

Verwante begrippen

Beveiligingsaudit voor chatbots

Een beveiligingsaudit voor chatbots is een gestructureerde controle of een AI-chatbot vertrouwelijke gegevens, zijn interne opdracht en zijn bevoegdheden om te handelen voldoende beschermt. Daarbij wordt onder meer gekeken naar de gevoeligheid voor prompt injection, onbedoelde openbaarmaking van informatie en te ruime toegang tot tools – vaak aan de hand van de OWASP Top 10 voor LLM-toepassingen. Het resultaat is een rapport met een beoordeling per risicogebied en concrete maatregelen.

  • beveiliging
  • audit
  • +1
Sjabloon

OWASP LLM Top 10

De OWASP Top 10 for LLM Applications is een lijst van de belangrijkste beveiligingsrisico’s in toepassingen die op grote taalmodellen zijn gebouwd, gepubliceerd door het OWASP GenAI Security Project. De actuele editie van 2026 verscheen in augustus 2026 (stand oktober 2026) en omvat: prompt injection, openbaarmaking van gevoelige informatie, buitensporige handelingsvrijheid (excessive agency), toeleveringsketen, vergiftiging van gegevens en modellen, onbegrensd verbruik, misinformatie, blootstelling van verborgen context, kwetsbaarheden van vectoren en embeddings, en onjuiste verwerking van uitvoer. De lijst dient als checklist voor ontwikkeling en audits.

  • beveiliging
  • standaard
  • +1
Sjabloon

AI-penetratietest

Een AI-penetratietest is een in opdracht uitgevoerde, gecontroleerde beveiligingsbeoordeling waarbij specialisten een AI-systeem doelbewust op zwakke plekken onderzoeken, zoals prompt injection, lekken van vertrouwelijke gegevens of een agent met te ruime rechten. In tegenstelling tot bredere red teaming richt ze zich op een duidelijk afgebakende scope met gedocumenteerde bevindingen en oplossingen. Het is zinvol om haar uit te voeren voordat een chatbot live gaat en na grote wijzigingen.

  • Beveiliging
  • Beoordeling
  • +1
Sjabloon

LLM-beveiliging

LLM-beveiliging omvat alle maatregelen die toepassingen op basis van grote taalmodellen beschermen tegen misbruik, datalekken en ongewenst gedrag. Typische risico’s zijn prompt injection, het prijsgeven van vertrouwelijke instructies of gegevens, en agents met te ruime rechten. Bescherming komt uit meerdere lagen: duidelijke instructies, beperkte rechten, controles op invoer en uitvoer, AI-firewalls, red teaming en regelmatige audits.

  • beveiliging
  • taalmodellen
  • +1
Sjabloon