DA
Log indKom i gang
Ordliste

AI-penetrationstest

Hvad er AI-penetrationstest?

En AI-penetrationstest er en bestilt, kontrolleret sikkerhedsvurdering, hvor specialister bevidst afprøver et AI-system for svagheder, f.eks. prompt injection, lækage af fortrolige data eller en agent med for vidtgående tilladelser. I modsætning til bredere red teaming fokuserer den på et klart afgrænset område med dokumenterede fund og afhjælpning. Den er umagen værd, før en chatbot går live, og efter større ændringer.

Sådan hjælper KI.ordo

KI.ordos skabelon »Sikkerhedstjek af chatbot« hjælper dig med på forhånd at gennemgå en agents instruktioner ud fra OWASP's risikoområder; den erstatter ikke en professionel penetrationstest.

Læs mere : AI-penetrationstest

Matchende skabeloner

Emner

  • Sikkerhed
  • Vurdering
  • Sårbarheder

Prøv KI.ordo

Agenter, flows og skabeloner i ét arbejdsområde – gratis demo i 24 timer.

Start demo
← Alle begreber

Relaterede begreber

AI red teaming

AI red teaming er en struktureret undersøgelse af et AI-system set fra potentielle angriberes eller misbrugeres perspektiv. Specialister tester under kontrollerede forhold, om en chatbot afslører fortrolige instruktioner, kan lokkes til uønsket adfærd, leverer forkerte fakta eller eksponerer data. Resultaterne bruges til bedre instruktioner, filtre og tilladelser. En sikkerhedsaudit af en chatbot er en lettere form: Den vurderer konfiguration og eksempelsamtaler ud fra kendte risikoområder som OWASP Top 10 for LLM Applications.

  • AI-sikkerhed
  • Sikkerhedstest
  • +1
Skabelon

Sikkerhedsaudit af chatbot

En sikkerhedsaudit af en chatbot er en struktureret gennemgang af, om en AI-chatbot i tilstrækkelig grad beskytter fortrolige data, sine interne instruktioner og sine handlerettigheder. Den undersøger blandt andet sårbarheden over for prompt injection, utilsigtet videregivelse af oplysninger og for vid adgang til værktøjer – ofte med udgangspunkt i OWASP Top 10 for LLM Applications. Resultatet er en rapport med en vurdering pr. risikoområde og konkrete tiltag.

  • sikkerhed
  • audit
  • +1
Skabelon

OWASP LLM Top 10

OWASP Top 10 for LLM Applications er en liste over de vigtigste sikkerhedsrisici i applikationer bygget på store sprogmodeller, udgivet af OWASP GenAI Security Project. Den aktuelle udgave fra 2026 udkom i august 2026 (pr. oktober 2026) og omfatter: prompt injection, offentliggørelse af følsomme oplysninger, for vidtgående handlefrihed (excessive agency), forsyningskæde, forgiftning af data og modeller, ubegrænset forbrug, misinformation, eksponering af skjult kontekst, svagheder i vektorer og embeddings samt forkert håndtering af output. Den fungerer som tjekliste til udvikling og audits.

  • sikkerhed
  • standard
  • +1
Skabelon

LLM-sikkerhed

LLM-sikkerhed omfatter alle foranstaltninger, der beskytter applikationer bygget på store sprogmodeller mod misbrug, datalæk og uønsket adfærd. Typiske risici er prompt injection, afsløring af fortrolige instruktioner eller data og agenter med for vidtgående tilladelser. Beskyttelsen kommer fra flere lag: klare instruktioner, begrænsede rettigheder, kontrol af input og output, AI-firewalls, red teaming og regelmæssige audits.

  • sikkerhed
  • sprogmodeller
  • +1
Skabelon