SV
Logga inKom igång
Ordlista

Dataexfiltrering

Vad är Dataexfiltrering?

Dataexfiltrering är en obehörig överföring av data ut ur ett system. I AI-applikationer kan det ske när en chattbot eller agent manipuleras med konstruerade indata eller förberett innehåll – till exempel på en webbsida som den läser – så att den avslöjar eller vidarebefordrar konfidentiell information. Skyddet består av minimala åtkomsträttigheter, kontroll av indata, begränsningar av utgående anslutningar och övervakning av svar.

Så hjälper KI.ordo

Mallen ”AI-brandvägg” i KI.ordo kan placeras framför en agent som ett underflöde och stoppar indata som till exempel försöker få fram systeminstruktioner eller data.

Läs mer : Dataexfiltrering

Passande mallar

Ämnen

  • AI-säkerhet
  • dataskydd
  • promptinjektion

Prova KI.ordo

Agenter, flöden och mallar i en arbetsyta – gratis demo i 24 timmar.

Starta demo
← Alla begrepp

Relaterade begrepp

AI-brandvägg

En AI-brandvägg är ett skyddslager mellan användare, datakällor och en AI-modell. Den granskar indata med avseende på manipulationsförsök som promptinjektion eller jailbreaks och kontrollerar utdata, till exempel med avseende på konfidentiella data eller oönskat innehåll, innan de förs vidare. Den kan använda regler, klassificeringsmodeller eller en andra språkmodell. En AI-brandvägg minskar risken men ger inget fullständigt skydd och ersätter varken begränsade behörigheter eller tester.

  • Säkerhet
  • Promptinjektion
  • +1
Mall

Indirekt promptinjektion

Vid en indirekt promptinjektion finns de manipulativa instruktionerna inte i användarens indata utan gömda i innehåll som ett AI-system bearbetar längs vägen, som webbsidor, e-postmeddelanden eller dokument. När en agent läser sådant innehåll kan den ta dolda kommandon för riktiga uppgifter och till exempel avslöja data. Skydd är att behandla externt innehåll strikt som data, begränsa behörigheter, granska indata och kräva mänskligt godkännande för kritiska åtgärder.

  • Säkerhet
  • Promptinjektion
  • +1
Mall

Prompt leaking

Prompt leaking innebär att ett AI-systems interna instruktioner oavsiktligt avslöjas, till exempel när en chattbot röjer sin systemprompt som svar på en listigt formulerad begäran. Det blir ett problem om instruktionerna innehåller affärslogik, intern information eller till och med inloggningsuppgifter. OWASP-listan för LLM-applikationer nämner denna risk uttryckligen. Det effektivaste skyddet är att skriva instruktioner som om de kunde bli offentliga, aldrig lagra hemligheter i dem och även kontrollera utdata.

  • AI-säkerhet
  • systemprompt
  • +1
Mall

LLM-säkerhet

LLM-säkerhet omfattar alla åtgärder som skyddar applikationer byggda på stora språkmodeller mot missbruk, dataläckage och oönskat beteende. Typiska risker är promptinjektion, avslöjande av konfidentiella instruktioner eller data och agenter med alltför omfattande behörigheter. Skyddet kommer från flera lager: tydliga instruktioner, begränsade rättigheter, kontroller av indata och utdata, AI-brandväggar, red teaming och regelbundna granskningar.

  • säkerhet
  • språkmodeller
  • +1
Mall