NL
InloggenAan de slag
Woordenlijst

LLM-beveiliging

Wat is LLM-beveiliging?

LLM-beveiliging omvat alle maatregelen die toepassingen op basis van grote taalmodellen beschermen tegen misbruik, datalekken en ongewenst gedrag. Typische risico’s zijn prompt injection, het prijsgeven van vertrouwelijke instructies of gegevens, en agents met te ruime rechten. Bescherming komt uit meerdere lagen: duidelijke instructies, beperkte rechten, controles op invoer en uitvoer, AI-firewalls, red teaming en regelmatige audits.

Hoe KI.ordo helpt

In KI.ordo bepalen rollen van lezer tot eigenaar wie agents en kennis mag wijzigen, houdt een wijzigingslogboek bewerkingen naspeurbaar en ondersteunt een sjabloon voor een beveiligingsaudit van chatbots de controles.

Meer informatie : LLM-beveiliging

Passende sjablonen

Onderwerpen

  • beveiliging
  • taalmodellen
  • risicobeheer

KI.ordo uitproberen

Agents, workflows en sjablonen in één werkruimte – gratis demo van 24 uur.

Demo starten
← Alle begrippen

Verwante begrippen

AI-firewall

Een AI-firewall is een beschermende laag tussen gebruikers, gegevensbronnen en een AI-model. Hij screent invoer op manipulatiepogingen zoals prompt injection of jailbreaks en controleert uitvoer, bijvoorbeeld op vertrouwelijke gegevens of ongewenste inhoud, voordat die wordt doorgegeven. Hij kan gebruikmaken van regels, classificatiemodellen of een tweede taalmodel. Een AI-firewall verkleint het risico, maar biedt geen volledige bescherming en vervangt noch beperkte rechten noch testen.

  • Beveiliging
  • Prompt injection
  • +1
Sjabloon

AI-red-teaming

AI-red-teaming is het gestructureerd onderzoeken van een AI-systeem vanuit het perspectief van potentiële aanvallers of misbruik. Specialisten testen gecontroleerd of een chatbot zijn vertrouwelijke opdracht prijsgeeft, tot ongewenst gedrag kan worden verleid, onjuiste feiten levert of gegevens blootlegt. De bevindingen leiden tot betere opdrachten, filters en rechten. Een beveiligingsaudit voor chatbots is een lichtere vorm: die beoordeelt de configuratie en voorbeeldgesprekken aan de hand van bekende risicogebieden zoals de OWASP Top 10 voor LLM-toepassingen.

  • AI-beveiliging
  • Beveiligingstests
  • +1
Sjabloon

Indirecte prompt injection

Bij een indirecte prompt injection staan manipulatieve instructies niet in de invoer van de gebruiker, maar zijn ze verborgen in inhoud die een AI-systeem onderweg verwerkt, zoals webpagina’s, e-mails of documenten. Wanneer een agent zulke inhoud leest, kan hij verborgen commando’s aanzien voor echte taken en bijvoorbeeld gegevens prijsgeven. Beveiligingsmaatregelen zijn onder meer externe inhoud strikt als data behandelen, rechten beperken, invoer screenen en voor kritieke acties menselijke goedkeuring eisen.

  • Beveiliging
  • Prompt injection
  • +1
Sjabloon

OWASP LLM Top 10

De OWASP Top 10 for LLM Applications is een lijst van de belangrijkste beveiligingsrisico’s in toepassingen die op grote taalmodellen zijn gebouwd, gepubliceerd door het OWASP GenAI Security Project. De actuele editie van 2026 verscheen in augustus 2026 (stand oktober 2026) en omvat: prompt injection, openbaarmaking van gevoelige informatie, buitensporige handelingsvrijheid (excessive agency), toeleveringsketen, vergiftiging van gegevens en modellen, onbegrensd verbruik, misinformatie, blootstelling van verborgen context, kwetsbaarheden van vectoren en embeddings, en onjuiste verwerking van uitvoer. De lijst dient als checklist voor ontwikkeling en audits.

  • beveiliging
  • standaard
  • +1
Sjabloon