PL
Zaloguj sięZacznij teraz
Słownik pojęć

OWASP LLM Top 10

Czym jest OWASP LLM Top 10?

OWASP Top 10 for LLM Applications to lista najważniejszych zagrożeń bezpieczeństwa w aplikacjach opartych na dużych modelach językowych, publikowana przez OWASP GenAI Security Project. Obecna edycja 2026 ukazała się w sierpniu 2026 roku (stan na październik 2026) i obejmuje: prompt injection, ujawnienie informacji wrażliwych, nadmierną sprawczość (excessive agency), łańcuch dostaw, zatruwanie danych i modeli, nieograniczoną konsumpcję zasobów, dezinformację, ujawnienie ukrytego kontekstu, słabości wektorów i osadzeń oraz nieprawidłową obsługę wyników. Służy jako lista kontrolna przy tworzeniu aplikacji i audytach.

Jak pomaga KI.ordo

Szablon KI.ordo „Audyt bezpieczeństwa chatbota” ocenia instrukcje agenta i przykładowe rozmowy pod kątem obszarów ryzyka z listy OWASP Top 10 for LLM Applications.

Dowiedz się więcej : OWASP LLM Top 10

Pasujące szablony

Tematy

  • bezpieczeństwo
  • standard
  • audyt

Wypróbuj KI.ordo

Agenci, przepływy i szablony w jednym obszarze roboczym – bezpłatne demo na 24 godziny.

Uruchom demo
← Wszystkie pojęcia

Powiązane pojęcia

Bezpieczeństwo LLM

Bezpieczeństwo LLM obejmuje wszystkie środki chroniące aplikacje zbudowane na dużych modelach językowych przed nadużyciami, wyciekiem danych i niepożądanym zachowaniem. Typowe zagrożenia to prompt injection, ujawnienie poufnych instrukcji lub danych oraz agenci z nadmiernymi uprawnieniami. Ochronę zapewnia kilka warstw: jasne instrukcje, ograniczone prawa, kontrola danych wejściowych i wyjściowych, zapory AI, red teaming i regularne audyty.

  • bezpieczeństwo
  • modele językowe
  • +1
Szablon

Pośredni prompt injection

W pośrednim prompt injection manipulacyjne polecenia nie znajdują się w danych wejściowych użytkownika, lecz są ukryte w treściach, które system AI przetwarza przy okazji, takich jak strony internetowe, e-maile czy dokumenty. Gdy agent odczytuje taką treść, może wziąć ukryte polecenia za prawdziwe zadania i na przykład ujawnić dane. Zabezpieczenia to traktowanie treści zewnętrznych wyłącznie jako danych, ograniczanie uprawnień, kontrola danych wejściowych i wymaganie zatwierdzenia przez człowieka dla działań krytycznych.

  • Bezpieczeństwo
  • prompt injection
  • +1
Szablon

Audyt bezpieczeństwa chatbota

Audyt bezpieczeństwa chatbota to ustrukturyzowana weryfikacja, czy chatbot AI odpowiednio chroni poufne dane, swoje wewnętrzne polecenia i uprawnienia do działania. Bada m.in. podatność na prompt injection, niezamierzone ujawnianie informacji i zbyt szeroki dostęp do narzędzi – często w oparciu o OWASP Top 10 dla aplikacji LLM. Wynikiem jest raport z oceną dla każdego obszaru ryzyka i konkretnymi środkami zaradczymi.

  • bezpieczeństwo
  • audyt
  • +1
Szablon

Wyciek promptu

Wyciek promptu oznacza niezamierzone ujawnienie wewnętrznych instrukcji systemu AI, na przykład gdy chatbot zdradza swój prompt systemowy w odpowiedzi na sprytnie sformułowaną prośbę. Staje się to problemem, jeśli instrukcje zawierają logikę biznesową, informacje wewnętrzne, a nawet dane dostępowe. Lista OWASP dla aplikacji LLM wymienia to ryzyko wprost. Najskuteczniejszym zabezpieczeniem jest pisanie instrukcji tak, jakby mogły stać się publiczne, nigdy nie umieszczanie w nich sekretów oraz kontrolowanie także wyników.

  • Bezpieczeństwo AI
  • prompt systemowy
  • +1
Szablon