DA
Log indKom i gang
Ordliste

Sikkerhedsaudit af chatbot

Hvad er Sikkerhedsaudit af chatbot?

En sikkerhedsaudit af en chatbot er en struktureret gennemgang af, om en AI-chatbot i tilstrækkelig grad beskytter fortrolige data, sine interne instruktioner og sine handlerettigheder. Den undersøger blandt andet sårbarheden over for prompt injection, utilsigtet videregivelse af oplysninger og for vid adgang til værktøjer – ofte med udgangspunkt i OWASP Top 10 for LLM Applications. Resultatet er en rapport med en vurdering pr. risikoområde og konkrete tiltag.

Sådan hjælper KI.ordo

KI.ordo tilbyder en skabelon, der ud fra en agents instruktioner og eksempelsamtaler udarbejder et udkast til en auditrapport med tiltag og harmløse selvtestspørgsmål.

Læs mere : Sikkerhedsaudit af chatbot

Matchende skabeloner

Emner

  • sikkerhed
  • audit
  • OWASP

Prøv KI.ordo

Agenter, flows og skabeloner i ét arbejdsområde – gratis demo i 24 timer.

Start demo
← Alle begreber

Relaterede begreber

OWASP LLM Top 10

OWASP Top 10 for LLM Applications er en liste over de vigtigste sikkerhedsrisici i applikationer bygget på store sprogmodeller, udgivet af OWASP GenAI Security Project. Den aktuelle udgave fra 2026 udkom i august 2026 (pr. oktober 2026) og omfatter: prompt injection, offentliggørelse af følsomme oplysninger, for vidtgående handlefrihed (excessive agency), forsyningskæde, forgiftning af data og modeller, ubegrænset forbrug, misinformation, eksponering af skjult kontekst, svagheder i vektorer og embeddings samt forkert håndtering af output. Den fungerer som tjekliste til udvikling og audits.

  • sikkerhed
  • standard
  • +1
Skabelon

AI red teaming

AI red teaming er en struktureret undersøgelse af et AI-system set fra potentielle angriberes eller misbrugeres perspektiv. Specialister tester under kontrollerede forhold, om en chatbot afslører fortrolige instruktioner, kan lokkes til uønsket adfærd, leverer forkerte fakta eller eksponerer data. Resultaterne bruges til bedre instruktioner, filtre og tilladelser. En sikkerhedsaudit af en chatbot er en lettere form: Den vurderer konfiguration og eksempelsamtaler ud fra kendte risikoområder som OWASP Top 10 for LLM Applications.

  • AI-sikkerhed
  • Sikkerhedstest
  • +1
Skabelon

LLM-sikkerhed

LLM-sikkerhed omfatter alle foranstaltninger, der beskytter applikationer bygget på store sprogmodeller mod misbrug, datalæk og uønsket adfærd. Typiske risici er prompt injection, afsløring af fortrolige instruktioner eller data og agenter med for vidtgående tilladelser. Beskyttelsen kommer fra flere lag: klare instruktioner, begrænsede rettigheder, kontrol af input og output, AI-firewalls, red teaming og regelmæssige audits.

  • sikkerhed
  • sprogmodeller
  • +1
Skabelon

Prompt leaking

Prompt leaking betegner utilsigtet offentliggørelse af et AI-systems interne instruktioner, f.eks. når en chatbot afslører sin systemprompt som svar på en snedigt formuleret forespørgsel. Det bliver et problem, hvis instruktionerne indeholder forretningslogik, interne oplysninger eller endda adgangsoplysninger. OWASP-listen for LLM-applikationer nævner udtrykkeligt denne risiko. Den mest effektive beskyttelse er at skrive instruktioner, som om de kunne blive offentlige, aldrig gemme hemmeligheder i dem og også kontrollere outputtet.

  • AI-sikkerhed
  • systemprompt
  • +1
Skabelon