HR
PrijavaZapočnite odmah
Pojmovnik

Curenje upita

Što je Curenje upita?

Curenje upita (prompt leaking) označava nenamjerno otkrivanje internih uputa UI sustava, primjerice kada chatbot na lukavo formuliran zahtjev otkrije svoj sistemski upit. To postaje problem ako te upute sadrže poslovnu logiku, interne informacije ili čak vjerodajnice. Popis OWASP za LLM aplikacije izričito navodi taj rizik. Najučinkovitija zaštita je pisati upute kao da bi mogle postati javne, u njih nikada ne pohranjivati tajne i provjeravati i izlazne rezultate.

Kako KI.ordo pomaže

Predložak KI.ordo „Sigurnosna revizija chatbota“ pomaže provjeriti upute agenta u pogledu tog rizika; lozinke i druge tajne nikada se ne bi smjele upisivati u njih.

Saznajte više : Curenje upita

Odgovarajući predlošci

Teme

  • Sigurnost UI-ja
  • sistemski upit
  • zaštita podataka

Isprobajte KI.ordo

Agenti, tijekovi rada i predlošci u jednom radnom prostoru – besplatna demo verzija na 24 sata.

Pokrenite demo
← Svi pojmovi

Srodni pojmovi

Izvlačenje sistemskog upita (System Prompt Extraction)

Izvlačenje sistemskog upita označava pokušaje da se chatbot ili UI agent natjera da otkrije svoje skrivene sistemske upute. Ako takav pokušaj uspije, rezultat se naziva curenje upita (prompt leaking): izvlačenje je napad, a curenje posljedica. Učinkovita zaštita počinje time da se lozinke, ključevi i povjerljiva pravila drže izvan uputa te da se pretpostavi da mogu postati javni; provjere unosa i redovito testiranje dodatne su mjere zaštite.

  • Sigurnost
  • Curenje upita
  • +1
Predložak

UI vatrozid

UI vatrozid je zaštitni sloj između korisnika, izvora podataka i UI modela. Provjerava unose zbog pokušaja manipulacije poput prompt injectiona ili jailbreakova te provjerava izlaze, primjerice zbog povjerljivih podataka ili neželjenog sadržaja, prije nego ih proslijedi dalje. Može koristiti pravila, klasifikacijske modele ili drugi jezični model. UI vatrozid smanjuje rizik, ali ne nudi potpunu zaštitu i ne zamjenjuje ni ograničene ovlasti ni testiranje.

  • Sigurnost
  • Prompt injection
  • +1
Predložak

OWASP LLM Top 10

OWASP Top 10 za LLM aplikacije popis je najvažnijih sigurnosnih rizika u aplikacijama izgrađenima na velikim jezičnim modelima, koji objavljuje projekt OWASP GenAI Security Project. Aktualno izdanje za 2026. izašlo je u kolovozu 2026. (stanje: listopad 2026.) i obuhvaća: prompt injection, otkrivanje osjetljivih informacija, pretjeranu autonomiju, opskrbni lanac, trovanje podataka i modela, neograničenu potrošnju, dezinformacije, otkrivanje skrivenog konteksta, slabosti vektora i umetanja te neispravnu obradu izlaznih podataka. Služi kao kontrolni popis za razvoj i revizije.

  • sigurnost
  • standard
  • +1
Predložak

Sigurnosna revizija chatbota

Sigurnosna revizija chatbota strukturirani je pregled toga štiti li UI chatbot na odgovarajući način povjerljive podatke, svoje interne upute i svoje ovlasti za djelovanje. Među ostalim ispituje podložnost umetanju upita (prompt injection), nenamjerno otkrivanje informacija i preširok pristup alatima – često prema OWASP Top 10 za LLM aplikacije. Rezultat je izvješće s ocjenom za svako područje rizika i konkretnim mjerama.

  • sigurnost
  • revizija
  • +1
Predložak