Woordenlijst

AI in cybersecurity

Wat is AI in cybersecurity?

AI in cybersecurity heeft twee kanten. Enerzijds helpen AI-technieken aanvallen sneller op te sporen, bijvoorbeeld door afwijkingen in netwerkverkeer, verdachte aanmeldingen of phishing-e-mails te signaleren, en ontlasten ze beveiligingsteams bij het triëren van meldingen. Anderzijds moeten AI-systemen zelf worden beschermd, bijvoorbeeld tegen prompt injection of datalekken. AI is hier alleen effectief in combinatie met duidelijke processen, actuele systemen en getrainde mensen.

Onderwerpen

Beveiliging
Dreigingsdetectie
Bescherming

KI.ordo uitproberen

Agents, workflows en sjablonen in één werkruimte – gratis demo van 24 uur.

Demo starten

← Alle begrippen

Verwante begrippen

Anomaliedetectie

Anomaliedetectie spoort datapunten, gebeurtenissen of patronen op die duidelijk afwijken van de norm. Dat kunnen ongewoon grote transacties zijn, plotselinge sprongen in sensorwaarden, dubbele records of verdachte netwerkactiviteit. Het wordt gebruikt in de financiële sector, de IT-beveiliging, de productie en de kwaliteitscontrole. De methoden variëren van eenvoudige statistische drempelwaarden tot lerende modellen; treffers zijn aanwijzingen die een mens moet beoordelen.

Data-analyse
Kwaliteitscontrole
+1

Sjabloon

LLM-beveiliging

LLM-beveiliging omvat alle maatregelen die toepassingen op basis van grote taalmodellen beschermen tegen misbruik, datalekken en ongewenst gedrag. Typische risico’s zijn prompt injection, het prijsgeven van vertrouwelijke instructies of gegevens, en agents met te ruime rechten. Bescherming komt uit meerdere lagen: duidelijke instructies, beperkte rechten, controles op invoer en uitvoer, AI-firewalls, red teaming en regelmatige audits.

beveiliging
taalmodellen
+1

Sjabloon

AI-penetratietest

Een AI-penetratietest is een in opdracht uitgevoerde, gecontroleerde beveiligingsbeoordeling waarbij specialisten een AI-systeem doelbewust op zwakke plekken onderzoeken, zoals prompt injection, lekken van vertrouwelijke gegevens of een agent met te ruime rechten. In tegenstelling tot bredere red teaming richt ze zich op een duidelijk afgebakende scope met gedocumenteerde bevindingen en oplossingen. Het is zinvol om haar uit te voeren voordat een chatbot live gaat en na grote wijzigingen.

Beveiliging
Beoordeling
+1

Sjabloon

AI-red-teaming

AI-red-teaming is het gestructureerd onderzoeken van een AI-systeem vanuit het perspectief van potentiële aanvallers of misbruik. Specialisten testen gecontroleerd of een chatbot zijn vertrouwelijke opdracht prijsgeeft, tot ongewenst gedrag kan worden verleid, onjuiste feiten levert of gegevens blootlegt. De bevindingen leiden tot betere opdrachten, filters en rechten. Een beveiligingsaudit voor chatbots is een lichtere vorm: die beoordeelt de configuratie en voorbeeldgesprekken aan de hand van bekende risicogebieden zoals de OWASP Top 10 voor LLM-toepassingen.

AI-beveiliging
Beveiligingstests
+1

Sjabloon