DA
Log indKom i gang
Ordliste

Dataudsivning

Hvad er Dataudsivning?

Dataudsivning (data exfiltration) er uautoriseret overførsel af data ud af et system. I AI-applikationer kan det ske, når en chatbot eller agent manipuleres af målrettede input eller forberedt indhold – f.eks. på en webside, den læser – til at afsløre eller videresende fortrolige oplysninger. Beskyttelsen omfatter minimale adgangsrettigheder, inputkontrol, begrænsning af udgående forbindelser og overvågning af svar.

Sådan hjælper KI.ordo

KI.ordos skabelon 'AI-firewall' kan sættes foran en agent som et underflow og holder input tilbage, der f.eks. forsøger at fremtvinge systeminstruktioner eller data.

Læs mere : Dataudsivning

Matchende skabeloner

Emner

  • AI-sikkerhed
  • databeskyttelse
  • prompt injection

Prøv KI.ordo

Agenter, flows og skabeloner i ét arbejdsområde – gratis demo i 24 timer.

Start demo
← Alle begreber

Relaterede begreber

AI-firewall

En AI-firewall er et beskyttelseslag mellem brugere, datakilder og en AI-model. Den screener input for manipulationsforsøg som prompt injection eller jailbreaks og kontrollerer output, f.eks. for fortrolige data eller uønsket indhold, før det sendes videre. Den kan bruge regler, klassifikationsmodeller eller en anden sprogmodel. En AI-firewall mindsker risikoen, men giver ikke fuldstændig beskyttelse og erstatter hverken begrænsede tilladelser eller test.

  • Sikkerhed
  • Prompt injection
  • +1
Skabelon

Indirekte prompt injection

Ved en indirekte prompt injection ligger de manipulerende instruktioner ikke i brugerens input, men er skjult i indhold, som et AI-system behandler undervejs, f.eks. websider, e-mails eller dokumenter. Når en agent læser sådant indhold, kan den forveksle skjulte kommandoer med ægte opgaver og f.eks. afsløre data. Sikringstiltag er at behandle eksternt indhold strengt som data, begrænse tilladelser, screene input og kræve menneskelig godkendelse af kritiske handlinger.

  • Sikkerhed
  • Prompt injection
  • +1
Skabelon

Prompt leaking

Prompt leaking betegner utilsigtet offentliggørelse af et AI-systems interne instruktioner, f.eks. når en chatbot afslører sin systemprompt som svar på en snedigt formuleret forespørgsel. Det bliver et problem, hvis instruktionerne indeholder forretningslogik, interne oplysninger eller endda adgangsoplysninger. OWASP-listen for LLM-applikationer nævner udtrykkeligt denne risiko. Den mest effektive beskyttelse er at skrive instruktioner, som om de kunne blive offentlige, aldrig gemme hemmeligheder i dem og også kontrollere outputtet.

  • AI-sikkerhed
  • systemprompt
  • +1
Skabelon

LLM-sikkerhed

LLM-sikkerhed omfatter alle foranstaltninger, der beskytter applikationer bygget på store sprogmodeller mod misbrug, datalæk og uønsket adfærd. Typiske risici er prompt injection, afsløring af fortrolige instruktioner eller data og agenter med for vidtgående tilladelser. Beskyttelsen kommer fra flere lag: klare instruktioner, begrænsede rettigheder, kontrol af input og output, AI-firewalls, red teaming og regelmæssige audits.

  • sikkerhed
  • sprogmodeller
  • +1
Skabelon