HR
PrijavaZapočnite odmah
Pojmovnik

OWASP LLM Top 10

Što je OWASP LLM Top 10?

OWASP Top 10 za LLM aplikacije popis je najvažnijih sigurnosnih rizika u aplikacijama izgrađenima na velikim jezičnim modelima, koji objavljuje projekt OWASP GenAI Security Project. Aktualno izdanje za 2026. izašlo je u kolovozu 2026. (stanje: listopad 2026.) i obuhvaća: prompt injection, otkrivanje osjetljivih informacija, pretjeranu autonomiju, opskrbni lanac, trovanje podataka i modela, neograničenu potrošnju, dezinformacije, otkrivanje skrivenog konteksta, slabosti vektora i umetanja te neispravnu obradu izlaznih podataka. Služi kao kontrolni popis za razvoj i revizije.

Kako KI.ordo pomaže

Predložak KI.ordo „Sigurnosna revizija chatbota“ procjenjuje upute agenta i primjere razgovora prema područjima rizika s popisa OWASP Top 10 za LLM aplikacije.

Saznajte više : OWASP LLM Top 10

Odgovarajući predlošci

Teme

  • sigurnost
  • standard
  • revizija

Isprobajte KI.ordo

Agenti, tijekovi rada i predlošci u jednom radnom prostoru – besplatna demo verzija na 24 sata.

Pokrenite demo
← Svi pojmovi

Srodni pojmovi

Sigurnost LLM-a

Sigurnost LLM-a obuhvaća sve mjere koje aplikacije izgrađene na velikim jezičnim modelima štite od zlouporabe, curenja podataka i neželjenog ponašanja. Tipični rizici uključuju prompt injection, otkrivanje povjerljivih uputa ili podataka te agente s prevelikim ovlastima. Zaštita dolazi iz više slojeva: jasnih uputa, ograničenih prava, provjera unosa i izlaza, UI vatrozida, red teaminga i redovitih revizija.

  • sigurnost
  • jezični modeli
  • +1
Predložak

Neizravni prompt injection

Kod neizravnog prompt injectiona manipulativne upute nisu u unosu korisnika, nego su skrivene u sadržaju koji UI sustav usput obrađuje, poput web-stranica, e-poruka ili dokumenata. Kada agent pročita takav sadržaj, skrivene naredbe može zamijeniti za stvarne zadatke pa, primjerice, otkriti podatke. Zaštite uključuju postupanje s vanjskim sadržajem strogo kao s podacima, ograničavanje ovlasti, provjeru unosa i traženje ljudskog odobrenja za kritične radnje.

  • Sigurnost
  • Prompt injection
  • +1
Predložak

Sigurnosna revizija chatbota

Sigurnosna revizija chatbota strukturirani je pregled toga štiti li UI chatbot na odgovarajući način povjerljive podatke, svoje interne upute i svoje ovlasti za djelovanje. Među ostalim ispituje podložnost umetanju upita (prompt injection), nenamjerno otkrivanje informacija i preširok pristup alatima – često prema OWASP Top 10 za LLM aplikacije. Rezultat je izvješće s ocjenom za svako područje rizika i konkretnim mjerama.

  • sigurnost
  • revizija
  • +1
Predložak

Curenje upita

Curenje upita (prompt leaking) označava nenamjerno otkrivanje internih uputa UI sustava, primjerice kada chatbot na lukavo formuliran zahtjev otkrije svoj sistemski upit. To postaje problem ako te upute sadrže poslovnu logiku, interne informacije ili čak vjerodajnice. Popis OWASP za LLM aplikacije izričito navodi taj rizik. Najučinkovitija zaštita je pisati upute kao da bi mogle postati javne, u njih nikada ne pohranjivati tajne i provjeravati i izlazne rezultate.

  • Sigurnost UI-ja
  • sistemski upit
  • +1
Predložak