DA
Log indKom i gang
Ordliste

OWASP LLM Top 10

Hvad er OWASP LLM Top 10?

OWASP Top 10 for LLM Applications er en liste over de vigtigste sikkerhedsrisici i applikationer bygget på store sprogmodeller, udgivet af OWASP GenAI Security Project. Den aktuelle udgave fra 2026 udkom i august 2026 (pr. oktober 2026) og omfatter: prompt injection, offentliggørelse af følsomme oplysninger, for vidtgående handlefrihed (excessive agency), forsyningskæde, forgiftning af data og modeller, ubegrænset forbrug, misinformation, eksponering af skjult kontekst, svagheder i vektorer og embeddings samt forkert håndtering af output. Den fungerer som tjekliste til udvikling og audits.

Sådan hjælper KI.ordo

KI.ordo-skabelonen »Sikkerhedstjek af chatbot« vurderer en agents instruktioner og eksempelsamtaler op mod risikoområderne i OWASP Top 10 for LLM Applications.

Læs mere : OWASP LLM Top 10

Matchende skabeloner

Emner

  • sikkerhed
  • standard
  • audit

Prøv KI.ordo

Agenter, flows og skabeloner i ét arbejdsområde – gratis demo i 24 timer.

Start demo
← Alle begreber

Relaterede begreber

LLM-sikkerhed

LLM-sikkerhed omfatter alle foranstaltninger, der beskytter applikationer bygget på store sprogmodeller mod misbrug, datalæk og uønsket adfærd. Typiske risici er prompt injection, afsløring af fortrolige instruktioner eller data og agenter med for vidtgående tilladelser. Beskyttelsen kommer fra flere lag: klare instruktioner, begrænsede rettigheder, kontrol af input og output, AI-firewalls, red teaming og regelmæssige audits.

  • sikkerhed
  • sprogmodeller
  • +1
Skabelon

Indirekte prompt injection

Ved en indirekte prompt injection ligger de manipulerende instruktioner ikke i brugerens input, men er skjult i indhold, som et AI-system behandler undervejs, f.eks. websider, e-mails eller dokumenter. Når en agent læser sådant indhold, kan den forveksle skjulte kommandoer med ægte opgaver og f.eks. afsløre data. Sikringstiltag er at behandle eksternt indhold strengt som data, begrænse tilladelser, screene input og kræve menneskelig godkendelse af kritiske handlinger.

  • Sikkerhed
  • Prompt injection
  • +1
Skabelon

Sikkerhedsaudit af chatbot

En sikkerhedsaudit af en chatbot er en struktureret gennemgang af, om en AI-chatbot i tilstrækkelig grad beskytter fortrolige data, sine interne instruktioner og sine handlerettigheder. Den undersøger blandt andet sårbarheden over for prompt injection, utilsigtet videregivelse af oplysninger og for vid adgang til værktøjer – ofte med udgangspunkt i OWASP Top 10 for LLM Applications. Resultatet er en rapport med en vurdering pr. risikoområde og konkrete tiltag.

  • sikkerhed
  • audit
  • +1
Skabelon

Prompt leaking

Prompt leaking betegner utilsigtet offentliggørelse af et AI-systems interne instruktioner, f.eks. når en chatbot afslører sin systemprompt som svar på en snedigt formuleret forespørgsel. Det bliver et problem, hvis instruktionerne indeholder forretningslogik, interne oplysninger eller endda adgangsoplysninger. OWASP-listen for LLM-applikationer nævner udtrykkeligt denne risiko. Den mest effektive beskyttelse er at skrive instruktioner, som om de kunne blive offentlige, aldrig gemme hemmeligheder i dem og også kontrollere outputtet.

  • AI-sikkerhed
  • systemprompt
  • +1
Skabelon