SV
Logga inKom igång
Ordlista

Prompt leaking

Vad är Prompt leaking?

Prompt leaking innebär att ett AI-systems interna instruktioner oavsiktligt avslöjas, till exempel när en chattbot röjer sin systemprompt som svar på en listigt formulerad begäran. Det blir ett problem om instruktionerna innehåller affärslogik, intern information eller till och med inloggningsuppgifter. OWASP-listan för LLM-applikationer nämner denna risk uttryckligen. Det effektivaste skyddet är att skriva instruktioner som om de kunde bli offentliga, aldrig lagra hemligheter i dem och även kontrollera utdata.

Så hjälper KI.ordo

Mallen ”Säkerhetsgranskning av chattbot” i KI.ordo hjälper till att kontrollera en agents instruktioner med avseende på denna risk; lösenord och andra hemligheter ska aldrig läggas i dem.

Läs mer : Prompt leaking

Passande mallar

Ämnen

  • AI-säkerhet
  • systemprompt
  • dataskydd

Prova KI.ordo

Agenter, flöden och mallar i en arbetsyta – gratis demo i 24 timmar.

Starta demo
← Alla begrepp

Relaterade begrepp

Extrahering av systemprompt

Extrahering av systemprompt avser försök att få en chattbot eller AI-agent att avslöja sina dolda systeminstruktioner. Om ett sådant försök lyckas kallas resultatet prompt leaking: extraheringen är attacken, läckan är följden. Ett effektivt skydd börjar med att hålla lösenord, nycklar och konfidentiella regler utanför instruktionerna och utgå från att de kan bli offentliga; kontroll av indata och regelbundna tester ger ytterligare skydd.

  • Säkerhet
  • Prompt leaking
  • +1
Mall

AI-brandvägg

En AI-brandvägg är ett skyddslager mellan användare, datakällor och en AI-modell. Den granskar indata med avseende på manipulationsförsök som promptinjektion eller jailbreaks och kontrollerar utdata, till exempel med avseende på konfidentiella data eller oönskat innehåll, innan de förs vidare. Den kan använda regler, klassificeringsmodeller eller en andra språkmodell. En AI-brandvägg minskar risken men ger inget fullständigt skydd och ersätter varken begränsade behörigheter eller tester.

  • Säkerhet
  • Promptinjektion
  • +1
Mall

OWASP LLM Top 10

OWASP Top 10 for LLM Applications är en lista över de viktigaste säkerhetsriskerna i applikationer som bygger på stora språkmodeller, publicerad av OWASP GenAI Security Project. Den aktuella utgåvan för 2026 kom i augusti 2026 (läget i oktober 2026) och omfattar: promptinjektion, avslöjande av känslig information, överdrivet handlingsutrymme, leveranskedja, förgiftning av data och modeller, obegränsad resursförbrukning, felaktig information, exponering av dold kontext, svagheter i vektorer och inbäddningar samt felaktig hantering av utdata. Den fungerar som checklista för utveckling och granskningar.

  • säkerhet
  • standard
  • +1
Mall

Säkerhetsgranskning av chattbot

En säkerhetsgranskning av en chattbot är en strukturerad genomgång av om en AI-chattbot skyddar konfidentiella data, sina interna instruktioner och sina handlingsbehörigheter tillräckligt. Den undersöker bland annat sårbarhet för prompt injection, oavsiktligt röjande av information och alltför omfattande åtkomst till verktyg – ofta enligt OWASP Top 10 för LLM-applikationer. Resultatet är en rapport med en bedömning per riskområde och konkreta åtgärder.

  • säkerhet
  • granskning
  • +1
Mall