NL
InloggenAan de slag
Woordenlijst

AI-firewall

Wat is AI-firewall?

Een AI-firewall is een beschermende laag tussen gebruikers, gegevensbronnen en een AI-model. Hij screent invoer op manipulatiepogingen zoals prompt injection of jailbreaks en controleert uitvoer, bijvoorbeeld op vertrouwelijke gegevens of ongewenste inhoud, voordat die wordt doorgegeven. Hij kan gebruikmaken van regels, classificatiemodellen of een tweede taalmodel. Een AI-firewall verkleint het risico, maar biedt geen volledige bescherming en vervangt noch beperkte rechten noch testen.

Hoe KI.ordo helpt

KI.ordo biedt een kant-en-klaar AI-firewallsjabloon dat invoer indeelt als onschuldig of verdacht en als subworkflow voor een agent kan worden geplaatst.

Meer informatie : AI-firewall

Passende sjablonen

Onderwerpen

  • Beveiliging
  • Prompt injection
  • Beschermlaag

KI.ordo uitproberen

Agents, workflows en sjablonen in één werkruimte – gratis demo van 24 uur.

Demo starten
← Alle begrippen

Verwante begrippen

Indirecte prompt injection

Bij een indirecte prompt injection staan manipulatieve instructies niet in de invoer van de gebruiker, maar zijn ze verborgen in inhoud die een AI-systeem onderweg verwerkt, zoals webpagina’s, e-mails of documenten. Wanneer een agent zulke inhoud leest, kan hij verborgen commando’s aanzien voor echte taken en bijvoorbeeld gegevens prijsgeven. Beveiligingsmaatregelen zijn onder meer externe inhoud strikt als data behandelen, rechten beperken, invoer screenen en voor kritieke acties menselijke goedkeuring eisen.

  • Beveiliging
  • Prompt injection
  • +1
Sjabloon

Jailbreaking

Jailbreaking verwijst naar pogingen om de veiligheidsregels van een AI-model te omzeilen met slim geformuleerde invoer, zodat het inhoud produceert of acties uitvoert die het zou moeten weigeren. Voor organisaties is dit een risico, omdat een chatbot bijvoorbeeld vertrouwelijke instructies kan prijsgeven of ongepast kan reageren. Beschermende maatregelen zijn duidelijke systeeminstructies, screening van invoer en uitvoer, beperkte rechten, logging en regelmatige beveiligingstests (red teaming).

  • Beveiliging
  • Misbruikpreventie
  • +1
Sjabloon

LLM-beveiliging

LLM-beveiliging omvat alle maatregelen die toepassingen op basis van grote taalmodellen beschermen tegen misbruik, datalekken en ongewenst gedrag. Typische risico’s zijn prompt injection, het prijsgeven van vertrouwelijke instructies of gegevens, en agents met te ruime rechten. Bescherming komt uit meerdere lagen: duidelijke instructies, beperkte rechten, controles op invoer en uitvoer, AI-firewalls, red teaming en regelmatige audits.

  • beveiliging
  • taalmodellen
  • +1
Sjabloon

OWASP LLM Top 10

De OWASP Top 10 for LLM Applications is een lijst van de belangrijkste beveiligingsrisico’s in toepassingen die op grote taalmodellen zijn gebouwd, gepubliceerd door het OWASP GenAI Security Project. De actuele editie van 2026 verscheen in augustus 2026 (stand oktober 2026) en omvat: prompt injection, openbaarmaking van gevoelige informatie, buitensporige handelingsvrijheid (excessive agency), toeleveringsketen, vergiftiging van gegevens en modellen, onbegrensd verbruik, misinformatie, blootstelling van verborgen context, kwetsbaarheden van vectoren en embeddings, en onjuiste verwerking van uitvoer. De lijst dient als checklist voor ontwikkeling en audits.

  • beveiliging
  • standaard
  • +1
Sjabloon