DA
Log indKom i gang
Ordliste

Prompt leaking

Hvad er Prompt leaking?

Prompt leaking betegner utilsigtet offentliggørelse af et AI-systems interne instruktioner, f.eks. når en chatbot afslører sin systemprompt som svar på en snedigt formuleret forespørgsel. Det bliver et problem, hvis instruktionerne indeholder forretningslogik, interne oplysninger eller endda adgangsoplysninger. OWASP-listen for LLM-applikationer nævner udtrykkeligt denne risiko. Den mest effektive beskyttelse er at skrive instruktioner, som om de kunne blive offentlige, aldrig gemme hemmeligheder i dem og også kontrollere outputtet.

Sådan hjælper KI.ordo

KI.ordo-skabelonen »Sikkerhedstjek af chatbot« hjælper med at kontrollere agentinstruktioner for denne risiko; adgangskoder og andre hemmeligheder bør aldrig stå i dem.

Læs mere : Prompt leaking

Matchende skabeloner

Emner

  • AI-sikkerhed
  • systemprompt
  • databeskyttelse

Prøv KI.ordo

Agenter, flows og skabeloner i ét arbejdsområde – gratis demo i 24 timer.

Start demo
← Alle begreber

Relaterede begreber

Systemprompt-udtrækning

Systemprompt-udtrækning betegner forsøg på at få en chatbot eller AI-agent til at afsløre sine skjulte systeminstruktioner. Lykkes et sådant forsøg, kaldes resultatet prompt leaking: udtrækningen er angrebet, lækagen er konsekvensen. Effektiv beskyttelse begynder med at holde adgangskoder, nøgler og fortrolige regler ude af instruktionerne og gå ud fra, at de kan blive offentlige; inputkontroller og regelmæssig testning giver yderligere sikkerhed.

  • Sikkerhed
  • Prompt leaking
  • +1
Skabelon

AI-firewall

En AI-firewall er et beskyttelseslag mellem brugere, datakilder og en AI-model. Den screener input for manipulationsforsøg som prompt injection eller jailbreaks og kontrollerer output, f.eks. for fortrolige data eller uønsket indhold, før det sendes videre. Den kan bruge regler, klassifikationsmodeller eller en anden sprogmodel. En AI-firewall mindsker risikoen, men giver ikke fuldstændig beskyttelse og erstatter hverken begrænsede tilladelser eller test.

  • Sikkerhed
  • Prompt injection
  • +1
Skabelon

OWASP LLM Top 10

OWASP Top 10 for LLM Applications er en liste over de vigtigste sikkerhedsrisici i applikationer bygget på store sprogmodeller, udgivet af OWASP GenAI Security Project. Den aktuelle udgave fra 2026 udkom i august 2026 (pr. oktober 2026) og omfatter: prompt injection, offentliggørelse af følsomme oplysninger, for vidtgående handlefrihed (excessive agency), forsyningskæde, forgiftning af data og modeller, ubegrænset forbrug, misinformation, eksponering af skjult kontekst, svagheder i vektorer og embeddings samt forkert håndtering af output. Den fungerer som tjekliste til udvikling og audits.

  • sikkerhed
  • standard
  • +1
Skabelon

Sikkerhedsaudit af chatbot

En sikkerhedsaudit af en chatbot er en struktureret gennemgang af, om en AI-chatbot i tilstrækkelig grad beskytter fortrolige data, sine interne instruktioner og sine handlerettigheder. Den undersøger blandt andet sårbarheden over for prompt injection, utilsigtet videregivelse af oplysninger og for vid adgang til værktøjer – ofte med udgangspunkt i OWASP Top 10 for LLM Applications. Resultatet er en rapport med en vurdering pr. risikoområde og konkrete tiltag.

  • sikkerhed
  • audit
  • +1
Skabelon