PL
Zaloguj sięZacznij teraz
Słownik pojęć

Eksfiltracja danych

Czym jest Eksfiltracja danych?

Eksfiltracja danych to nieuprawnione przesyłanie danych poza system. W aplikacjach AI może do niej dojść, gdy chatbot lub agent zostanie zmanipulowany spreparowanymi poleceniami albo przygotowaną treścią – na przykład na odczytywanej stronie internetowej – i ujawni lub przekaże poufne informacje. Ochrona obejmuje minimalne prawa dostępu, kontrolę danych wejściowych, ograniczenia połączeń wychodzących i monitorowanie odpowiedzi.

Jak pomaga KI.ordo

Szablon „Zapora AI” w KI.ordo można umieścić przed agentem jako podprzepływ; zatrzymuje on polecenia, które próbują na przykład wydobyć instrukcje systemowe lub dane.

Dowiedz się więcej : Eksfiltracja danych

Pasujące szablony

Tematy

  • Bezpieczeństwo AI
  • ochrona danych
  • prompt injection

Wypróbuj KI.ordo

Agenci, przepływy i szablony w jednym obszarze roboczym – bezpłatne demo na 24 godziny.

Uruchom demo
← Wszystkie pojęcia

Powiązane pojęcia

Zapora AI (AI firewall)

Zapora AI (AI firewall) to warstwa ochronna między użytkownikami, źródłami danych a modelem AI. Sprawdza dane wejściowe pod kątem prób manipulacji, takich jak prompt injection czy jailbreaki, a wyniki – na przykład pod kątem poufnych danych lub niepożądanych treści – zanim zostaną przekazane dalej. Może korzystać z reguł, modeli klasyfikacyjnych lub drugiego modelu językowego. Zapora AI zmniejsza ryzyko, ale nie zapewnia pełnej ochrony i nie zastępuje ani ograniczonych uprawnień, ani testów.

  • Bezpieczeństwo
  • prompt injection
  • +1
Szablon

Pośredni prompt injection

W pośrednim prompt injection manipulacyjne polecenia nie znajdują się w danych wejściowych użytkownika, lecz są ukryte w treściach, które system AI przetwarza przy okazji, takich jak strony internetowe, e-maile czy dokumenty. Gdy agent odczytuje taką treść, może wziąć ukryte polecenia za prawdziwe zadania i na przykład ujawnić dane. Zabezpieczenia to traktowanie treści zewnętrznych wyłącznie jako danych, ograniczanie uprawnień, kontrola danych wejściowych i wymaganie zatwierdzenia przez człowieka dla działań krytycznych.

  • Bezpieczeństwo
  • prompt injection
  • +1
Szablon

Wyciek promptu

Wyciek promptu oznacza niezamierzone ujawnienie wewnętrznych instrukcji systemu AI, na przykład gdy chatbot zdradza swój prompt systemowy w odpowiedzi na sprytnie sformułowaną prośbę. Staje się to problemem, jeśli instrukcje zawierają logikę biznesową, informacje wewnętrzne, a nawet dane dostępowe. Lista OWASP dla aplikacji LLM wymienia to ryzyko wprost. Najskuteczniejszym zabezpieczeniem jest pisanie instrukcji tak, jakby mogły stać się publiczne, nigdy nie umieszczanie w nich sekretów oraz kontrolowanie także wyników.

  • Bezpieczeństwo AI
  • prompt systemowy
  • +1
Szablon

Bezpieczeństwo LLM

Bezpieczeństwo LLM obejmuje wszystkie środki chroniące aplikacje zbudowane na dużych modelach językowych przed nadużyciami, wyciekiem danych i niepożądanym zachowaniem. Typowe zagrożenia to prompt injection, ujawnienie poufnych instrukcji lub danych oraz agenci z nadmiernymi uprawnieniami. Ochronę zapewnia kilka warstw: jasne instrukcje, ograniczone prawa, kontrola danych wejściowych i wyjściowych, zapory AI, red teaming i regularne audyty.

  • bezpieczeństwo
  • modele językowe
  • +1
Szablon