SK
Prihlásiť saZačať
Slovník pojmov

Exfiltrácia údajov

Čo je Exfiltrácia údajov?

Exfiltrácia údajov je neoprávnený prenos údajov zo systému. V aplikáciách s AI k nej môže dôjsť, keď sa chatbot alebo agent pomocou vymyslených vstupov alebo pripraveného obsahu – napríklad na webovej stránke, ktorú číta – zmanipuluje tak, aby prezradil alebo preposlal dôverné informácie. Ochrana zahŕňa minimálne prístupové práva, kontroly vstupov, obmedzenia odchádzajúcich spojení a monitorovanie odpovedí.

Ako pomáha KI.ordo

Šablónu „AI firewall“ od KI.ordo možno umiestniť pred agenta ako podpostup a zadrží vstupy, ktoré sa napríklad pokúšajú získať systémové pokyny alebo údaje.

Zistiť viac : Exfiltrácia údajov

Vhodné šablóny

Témy

  • Bezpečnosť AI
  • ochrana údajov
  • prompt injection

Vyskúšajte KI.ordo

Agenti, postupy a šablóny v jednom pracovnom priestore – bezplatné 24-hodinové demo.

Spustiť demo
← Všetky pojmy

Súvisiace pojmy

AI firewall

AI firewall je ochranná vrstva medzi používateľmi, zdrojmi údajov a modelom AI. Kontroluje vstupy z hľadiska pokusov o manipuláciu, ako sú prompt injection alebo jailbreaky, a pred odovzdaním ďalej kontroluje výstupy, napríklad na dôverné údaje alebo nežiaduci obsah. Môže používať pravidlá, klasifikačné modely alebo druhý jazykový model. AI firewall znižuje riziko, ale neposkytuje úplnú ochranu a nenahrádza obmedzené oprávnenia ani testovanie.

  • Bezpečnosť
  • prompt injection
  • +1
Šablóna

Nepriama prompt injection

Pri nepriamej prompt injection nie sú manipulatívne pokyny vo vstupe používateľa, ale skryté v obsahu, ktorý systém AI popri tom spracúva, napríklad na webových stránkach, v e-mailoch alebo dokumentoch. Keď agent takýto obsah prečíta, môže skryté príkazy pokladať za skutočné úlohy a napríklad prezradiť údaje. Ochrana zahŕňa striktné zaobchádzanie s externým obsahom ako s údajmi, obmedzenie oprávnení, kontrolu vstupov a vyžadovanie ľudského schválenia pri kritických akciách.

  • Bezpečnosť
  • prompt injection
  • +1
Šablóna

Prompt leaking

Prompt leaking označuje neúmyselné prezradenie interných pokynov systému AI, napríklad keď chatbot na šikovne formulovanú požiadavku vyzradí svoj systémový prompt. Problémom sa to stáva, ak tieto pokyny obsahujú obchodnú logiku, interné informácie alebo dokonca prístupové údaje. Zoznam OWASP pre aplikácie s LLM toto riziko výslovne uvádza. Najúčinnejšou ochranou je písať pokyny tak, akoby sa mohli stať verejnými, nikdy do nich neukladať tajomstvá a kontrolovať aj výstupy.

  • Bezpečnosť AI
  • systémový prompt
  • +1
Šablóna

Bezpečnosť LLM

Bezpečnosť LLM zahŕňa všetky opatrenia, ktoré chránia aplikácie postavené na veľkých jazykových modeloch pred zneužitím, únikom údajov a nežiaducim správaním. Typické riziká zahŕňajú prompt injection, prezradenie dôverných pokynov alebo údajov a agentov s nadmernými oprávneniami. Ochranu zabezpečuje viacero vrstiev: jasné pokyny, obmedzené práva, kontroly vstupov a výstupov, AI firewally, red teaming a pravidelné audity.

  • bezpečnosť
  • jazykové modely
  • +1
Šablóna