SV
Logga inKom igång
Ordlista

OWASP LLM Top 10

Vad är OWASP LLM Top 10?

OWASP Top 10 for LLM Applications är en lista över de viktigaste säkerhetsriskerna i applikationer som bygger på stora språkmodeller, publicerad av OWASP GenAI Security Project. Den aktuella utgåvan för 2026 kom i augusti 2026 (läget i oktober 2026) och omfattar: promptinjektion, avslöjande av känslig information, överdrivet handlingsutrymme, leveranskedja, förgiftning av data och modeller, obegränsad resursförbrukning, felaktig information, exponering av dold kontext, svagheter i vektorer och inbäddningar samt felaktig hantering av utdata. Den fungerar som checklista för utveckling och granskningar.

Så hjälper KI.ordo

Mallen ”Säkerhetsgranskning av chattbot” i KI.ordo bedömer en agents instruktioner och exempelsamtal mot riskområdena i OWASP Top 10 for LLM Applications.

Läs mer : OWASP LLM Top 10

Passande mallar

Ämnen

  • säkerhet
  • standard
  • granskning

Prova KI.ordo

Agenter, flöden och mallar i en arbetsyta – gratis demo i 24 timmar.

Starta demo
← Alla begrepp

Relaterade begrepp

LLM-säkerhet

LLM-säkerhet omfattar alla åtgärder som skyddar applikationer byggda på stora språkmodeller mot missbruk, dataläckage och oönskat beteende. Typiska risker är promptinjektion, avslöjande av konfidentiella instruktioner eller data och agenter med alltför omfattande behörigheter. Skyddet kommer från flera lager: tydliga instruktioner, begränsade rättigheter, kontroller av indata och utdata, AI-brandväggar, red teaming och regelbundna granskningar.

  • säkerhet
  • språkmodeller
  • +1
Mall

Indirekt promptinjektion

Vid en indirekt promptinjektion finns de manipulativa instruktionerna inte i användarens indata utan gömda i innehåll som ett AI-system bearbetar längs vägen, som webbsidor, e-postmeddelanden eller dokument. När en agent läser sådant innehåll kan den ta dolda kommandon för riktiga uppgifter och till exempel avslöja data. Skydd är att behandla externt innehåll strikt som data, begränsa behörigheter, granska indata och kräva mänskligt godkännande för kritiska åtgärder.

  • Säkerhet
  • Promptinjektion
  • +1
Mall

Säkerhetsgranskning av chattbot

En säkerhetsgranskning av en chattbot är en strukturerad genomgång av om en AI-chattbot skyddar konfidentiella data, sina interna instruktioner och sina handlingsbehörigheter tillräckligt. Den undersöker bland annat sårbarhet för prompt injection, oavsiktligt röjande av information och alltför omfattande åtkomst till verktyg – ofta enligt OWASP Top 10 för LLM-applikationer. Resultatet är en rapport med en bedömning per riskområde och konkreta åtgärder.

  • säkerhet
  • granskning
  • +1
Mall

Prompt leaking

Prompt leaking innebär att ett AI-systems interna instruktioner oavsiktligt avslöjas, till exempel när en chattbot röjer sin systemprompt som svar på en listigt formulerad begäran. Det blir ett problem om instruktionerna innehåller affärslogik, intern information eller till och med inloggningsuppgifter. OWASP-listan för LLM-applikationer nämner denna risk uttryckligen. Det effektivaste skyddet är att skriva instruktioner som om de kunde bli offentliga, aldrig lagra hemligheter i dem och även kontrollera utdata.

  • AI-säkerhet
  • systemprompt
  • +1
Mall