DA
Log indKom i gang
Ordliste

AI-firewall

Hvad er AI-firewall?

En AI-firewall er et beskyttelseslag mellem brugere, datakilder og en AI-model. Den screener input for manipulationsforsøg som prompt injection eller jailbreaks og kontrollerer output, f.eks. for fortrolige data eller uønsket indhold, før det sendes videre. Den kan bruge regler, klassifikationsmodeller eller en anden sprogmodel. En AI-firewall mindsker risikoen, men giver ikke fuldstændig beskyttelse og erstatter hverken begrænsede tilladelser eller test.

Sådan hjælper KI.ordo

KI.ordo tilbyder en færdig AI-firewall-skabelon, der klassificerer input som harmløse eller mistænkelige og kan sættes foran en agent som et underflow.

Læs mere : AI-firewall

Matchende skabeloner

Emner

  • Sikkerhed
  • Prompt injection
  • Beskyttelseslag

Prøv KI.ordo

Agenter, flows og skabeloner i ét arbejdsområde – gratis demo i 24 timer.

Start demo
← Alle begreber

Relaterede begreber

Indirekte prompt injection

Ved en indirekte prompt injection ligger de manipulerende instruktioner ikke i brugerens input, men er skjult i indhold, som et AI-system behandler undervejs, f.eks. websider, e-mails eller dokumenter. Når en agent læser sådant indhold, kan den forveksle skjulte kommandoer med ægte opgaver og f.eks. afsløre data. Sikringstiltag er at behandle eksternt indhold strengt som data, begrænse tilladelser, screene input og kræve menneskelig godkendelse af kritiske handlinger.

  • Sikkerhed
  • Prompt injection
  • +1
Skabelon

Jailbreaking

Jailbreaking betegner forsøg på at omgå en AI-models sikkerhedsregler med snedigt formulerede input, så den frembringer indhold eller foretager handlinger, den skulle afvise. For organisationer er det en risiko, fordi en chatbot f.eks. kan afsløre fortrolige instruktioner eller svare upassende. Beskyttelsesforanstaltninger er klare systeminstruktioner, screening af input og output, begrænsede tilladelser, logning og regelmæssige sikkerhedstest (red teaming).

  • Sikkerhed
  • Forebyggelse af misbrug
  • +1
Skabelon

LLM-sikkerhed

LLM-sikkerhed omfatter alle foranstaltninger, der beskytter applikationer bygget på store sprogmodeller mod misbrug, datalæk og uønsket adfærd. Typiske risici er prompt injection, afsløring af fortrolige instruktioner eller data og agenter med for vidtgående tilladelser. Beskyttelsen kommer fra flere lag: klare instruktioner, begrænsede rettigheder, kontrol af input og output, AI-firewalls, red teaming og regelmæssige audits.

  • sikkerhed
  • sprogmodeller
  • +1
Skabelon

OWASP LLM Top 10

OWASP Top 10 for LLM Applications er en liste over de vigtigste sikkerhedsrisici i applikationer bygget på store sprogmodeller, udgivet af OWASP GenAI Security Project. Den aktuelle udgave fra 2026 udkom i august 2026 (pr. oktober 2026) og omfatter: prompt injection, offentliggørelse af følsomme oplysninger, for vidtgående handlefrihed (excessive agency), forsyningskæde, forgiftning af data og modeller, ubegrænset forbrug, misinformation, eksponering af skjult kontekst, svagheder i vektorer og embeddings samt forkert håndtering af output. Den fungerer som tjekliste til udvikling og audits.

  • sikkerhed
  • standard
  • +1
Skabelon