DA
Log indKom i gang
Ordliste

Systemprompt-udtrækning

Hvad er Systemprompt-udtrækning?

Systemprompt-udtrækning betegner forsøg på at få en chatbot eller AI-agent til at afsløre sine skjulte systeminstruktioner. Lykkes et sådant forsøg, kaldes resultatet prompt leaking: udtrækningen er angrebet, lækagen er konsekvensen. Effektiv beskyttelse begynder med at holde adgangskoder, nøgler og fortrolige regler ude af instruktionerne og gå ud fra, at de kan blive offentlige; inputkontroller og regelmæssig testning giver yderligere sikkerhed.

Sådan hjælper KI.ordo

KI.ordo-skabelonen »Sikkerhedstjek af chatbot« gennemgår en agents instruktioner for risici som afslørede systeminstruktioner og leverer harmløse selvtestspørgsmål.

Læs mere : Systemprompt-udtrækning

Matchende skabeloner

Emner

  • Sikkerhed
  • Prompt leaking
  • Chatbots

Prøv KI.ordo

Agenter, flows og skabeloner i ét arbejdsområde – gratis demo i 24 timer.

Start demo
← Alle begreber

Relaterede begreber

Prompt leaking

Prompt leaking betegner utilsigtet offentliggørelse af et AI-systems interne instruktioner, f.eks. når en chatbot afslører sin systemprompt som svar på en snedigt formuleret forespørgsel. Det bliver et problem, hvis instruktionerne indeholder forretningslogik, interne oplysninger eller endda adgangsoplysninger. OWASP-listen for LLM-applikationer nævner udtrykkeligt denne risiko. Den mest effektive beskyttelse er at skrive instruktioner, som om de kunne blive offentlige, aldrig gemme hemmeligheder i dem og også kontrollere outputtet.

  • AI-sikkerhed
  • systemprompt
  • +1
Skabelon

Jailbreaking

Jailbreaking betegner forsøg på at omgå en AI-models sikkerhedsregler med snedigt formulerede input, så den frembringer indhold eller foretager handlinger, den skulle afvise. For organisationer er det en risiko, fordi en chatbot f.eks. kan afsløre fortrolige instruktioner eller svare upassende. Beskyttelsesforanstaltninger er klare systeminstruktioner, screening af input og output, begrænsede tilladelser, logning og regelmæssige sikkerhedstest (red teaming).

  • Sikkerhed
  • Forebyggelse af misbrug
  • +1
Skabelon

Sikkerhedsaudit af chatbot

En sikkerhedsaudit af en chatbot er en struktureret gennemgang af, om en AI-chatbot i tilstrækkelig grad beskytter fortrolige data, sine interne instruktioner og sine handlerettigheder. Den undersøger blandt andet sårbarheden over for prompt injection, utilsigtet videregivelse af oplysninger og for vid adgang til værktøjer – ofte med udgangspunkt i OWASP Top 10 for LLM Applications. Resultatet er en rapport med en vurdering pr. risikoområde og konkrete tiltag.

  • sikkerhed
  • audit
  • +1
Skabelon

OWASP LLM Top 10

OWASP Top 10 for LLM Applications er en liste over de vigtigste sikkerhedsrisici i applikationer bygget på store sprogmodeller, udgivet af OWASP GenAI Security Project. Den aktuelle udgave fra 2026 udkom i august 2026 (pr. oktober 2026) og omfatter: prompt injection, offentliggørelse af følsomme oplysninger, for vidtgående handlefrihed (excessive agency), forsyningskæde, forgiftning af data og modeller, ubegrænset forbrug, misinformation, eksponering af skjult kontekst, svagheder i vektorer og embeddings samt forkert håndtering af output. Den fungerer som tjekliste til udvikling og audits.

  • sikkerhed
  • standard
  • +1
Skabelon