CS
Přihlásit seZačít
Glosář

Exfiltrace dat

Co je Exfiltrace dat?

Exfiltrace dat je neoprávněný přenos dat ze systému ven. U aplikací s AI k ní může dojít, když je chatbot nebo agent manipulován připravenými vstupy nebo obsahem – například na webové stránce, kterou čte – a vyzradí nebo přepošle důvěrné informace. Ochranou jsou minimální přístupová práva, kontrola vstupů, omezení odchozích spojení a monitorování odpovědí.

Jak pomáhá KI.ordo

Šablonu „AI firewall“ z KI.ordo lze předřadit agentovi jako dílčí postup; zadrží vstupy, které se například pokoušejí získat systémové pokyny nebo data.

Zjistit více : Exfiltrace dat

Vhodné šablony

Témata

  • Bezpečnost AI
  • ochrana údajů
  • prompt injection

Vyzkoušet KI.ordo

Agenti, postupy a šablony v jednom pracovním prostoru – 24hodinové demo zdarma.

Spustit demo
← Všechny pojmy

Související pojmy

AI firewall

AI firewall je ochranná vrstva mezi uživateli, zdroji dat a modelem AI. Kontroluje vstupy z hlediska pokusů o manipulaci, například prompt injection nebo jailbreaků, a před předáním dál prověřuje výstupy, například na důvěrná data nebo nežádoucí obsah. Může používat pravidla, klasifikační modely nebo druhý jazykový model. AI firewall snižuje riziko, ale nenabízí úplnou ochranu a nenahrazuje omezená oprávnění ani testování.

  • Bezpečnost
  • prompt injection
  • +1
Šablona

Nepřímá prompt injection

Při nepřímé prompt injection nejsou manipulativní pokyny ve vstupu uživatele, ale ukryté v obsahu, který systém AI mimochodem zpracovává, například na webových stránkách, v e-mailech nebo dokumentech. Když agent takový obsah čte, může skryté příkazy považovat za skutečné úkoly a například vyzradit data. Ochranou je důsledné zacházení s externím obsahem jako s daty, omezená oprávnění, kontrola vstupů a vyžadování lidského schválení u kritických akcí.

  • Bezpečnost
  • prompt injection
  • +1
Šablona

Únik promptu (prompt leaking)

Únik promptu označuje nezamýšlené odhalení interních pokynů AI systému, například když chatbot na šikovně formulovanou žádost prozradí svůj systémový prompt. Stává se problémem, pokud tyto pokyny obsahují obchodní logiku, interní informace nebo dokonce přístupové údaje. Seznam OWASP pro aplikace LLM toto riziko výslovně uvádí. Nejúčinnější ochranou je psát pokyny tak, jako by se mohly stát veřejnými, nikdy do nich neukládat tajné údaje a kontrolovat také výstupy.

  • Bezpečnost AI
  • systémový prompt
  • +1
Šablona

bezpečnost LLM

Bezpečnost LLM zahrnuje všechna opatření, která chrání aplikace postavené na velkých jazykových modelech před zneužitím, únikem dat a nežádoucím chováním. Typická rizika zahrnují prompt injection, vyzrazení důvěrných pokynů nebo dat a agenty s nadměrnými oprávněními. Ochrana vychází z několika vrstev: jasné pokyny, omezená práva, kontroly vstupů a výstupů, AI firewally, red teaming a pravidelné audity.

  • bezpečnost
  • jazykové modely
  • +1
Šablona