PL
Zaloguj sięZacznij teraz
Słownik pojęć

Pośredni prompt injection

Czym jest Pośredni prompt injection?

W pośrednim prompt injection manipulacyjne polecenia nie znajdują się w danych wejściowych użytkownika, lecz są ukryte w treściach, które system AI przetwarza przy okazji, takich jak strony internetowe, e-maile czy dokumenty. Gdy agent odczytuje taką treść, może wziąć ukryte polecenia za prawdziwe zadania i na przykład ujawnić dane. Zabezpieczenia to traktowanie treści zewnętrznych wyłącznie jako danych, ograniczanie uprawnień, kontrola danych wejściowych i wymaganie zatwierdzenia przez człowieka dla działań krytycznych.

Jak pomaga KI.ordo

KI.ordo oferuje gotowy szablon zapory AI, który można umieścić przed agentem jako dodatkową warstwę kontroli, na przykład gdy treści docierają przez narzędzie do odczytu stron internetowych.

Dowiedz się więcej : Pośredni prompt injection

Pasujące szablony

Tematy

  • Bezpieczeństwo
  • prompt injection
  • agenci

Wypróbuj KI.ordo

Agenci, przepływy i szablony w jednym obszarze roboczym – bezpłatne demo na 24 godziny.

Uruchom demo
← Wszystkie pojęcia

Powiązane pojęcia

Zapora AI (AI firewall)

Zapora AI (AI firewall) to warstwa ochronna między użytkownikami, źródłami danych a modelem AI. Sprawdza dane wejściowe pod kątem prób manipulacji, takich jak prompt injection czy jailbreaki, a wyniki – na przykład pod kątem poufnych danych lub niepożądanych treści – zanim zostaną przekazane dalej. Może korzystać z reguł, modeli klasyfikacyjnych lub drugiego modelu językowego. Zapora AI zmniejsza ryzyko, ale nie zapewnia pełnej ochrony i nie zastępuje ani ograniczonych uprawnień, ani testów.

  • Bezpieczeństwo
  • prompt injection
  • +1
Szablon

Jailbreaking

Jailbreaking oznacza próby obejścia zasad bezpieczeństwa modelu AI za pomocą sprytnie sformułowanych poleceń, tak aby wytwarzał treści lub podejmował działania, których powinien odmawiać. Dla organizacji to ryzyko, ponieważ chatbot mógłby na przykład ujawnić poufne instrukcje lub zareagować w niewłaściwy sposób. Środki ochronne to jasne instrukcje systemowe, kontrola danych wejściowych i wyjściowych, ograniczone uprawnienia, rejestrowanie zdarzeń i regularne testy bezpieczeństwa (red teaming).

  • Bezpieczeństwo
  • zapobieganie nadużyciom
  • +1
Szablon

Bezpieczeństwo LLM

Bezpieczeństwo LLM obejmuje wszystkie środki chroniące aplikacje zbudowane na dużych modelach językowych przed nadużyciami, wyciekiem danych i niepożądanym zachowaniem. Typowe zagrożenia to prompt injection, ujawnienie poufnych instrukcji lub danych oraz agenci z nadmiernymi uprawnieniami. Ochronę zapewnia kilka warstw: jasne instrukcje, ograniczone prawa, kontrola danych wejściowych i wyjściowych, zapory AI, red teaming i regularne audyty.

  • bezpieczeństwo
  • modele językowe
  • +1
Szablon

OWASP LLM Top 10

OWASP Top 10 for LLM Applications to lista najważniejszych zagrożeń bezpieczeństwa w aplikacjach opartych na dużych modelach językowych, publikowana przez OWASP GenAI Security Project. Obecna edycja 2026 ukazała się w sierpniu 2026 roku (stan na październik 2026) i obejmuje: prompt injection, ujawnienie informacji wrażliwych, nadmierną sprawczość (excessive agency), łańcuch dostaw, zatruwanie danych i modeli, nieograniczoną konsumpcję zasobów, dezinformację, ujawnienie ukrytego kontekstu, słabości wektorów i osadzeń oraz nieprawidłową obsługę wyników. Służy jako lista kontrolna przy tworzeniu aplikacji i audytach.

  • bezpieczeństwo
  • standard
  • +1
Szablon