RO
AutentificareÎncepeți acum
Glosar

Prompt leaking

Ce este Prompt leaking?

Prompt leaking (scurgerea promptului) desemnează dezvăluirea neintenționată a instrucțiunilor interne ale unui sistem de IA, de exemplu atunci când un chatbot își dezvăluie promptul de sistem ca răspuns la o solicitare formulată abil. Devine o problemă dacă acele instrucțiuni conțin logică de business, informații interne sau chiar date de acces. Lista OWASP pentru aplicațiile LLM menționează explicit acest risc. Cea mai eficientă protecție este să scrieți instrucțiunile ca și cum ar putea deveni publice, să nu stocați niciodată secrete în ele și să verificați și rezultatele.

Cum ajută KI.ordo

Șablonul KI.ordo „Audit de securitate pentru chatbot” ajută la verificarea instrucțiunilor agenților în privința acestui risc; parolele și alte secrete nu trebuie niciodată incluse în ele.

Aflați mai multe : Prompt leaking

Șabloane potrivite

Subiecte

  • Securitatea IA
  • prompt de sistem
  • protecția datelor

Încercați KI.ordo

Agenți, fluxuri și șabloane într-un singur spațiu de lucru – demo gratuit de 24 de ore.

Porniți demo-ul
← Toți termenii

Termeni înrudiți

Extragerea promptului de sistem

Extragerea promptului de sistem desemnează încercările de a determina un chatbot sau un agent de IA să-și dezvăluie instrucțiunile ascunse de sistem. Dacă o asemenea încercare reușește, rezultatul se numește prompt leaking: extragerea este atacul, scurgerea este consecința. O protecție eficientă începe prin a nu include în instrucțiuni parole, chei și reguli confidențiale și prin a presupune că ele pot deveni publice; verificarea intrărilor și testarea periodică adaugă măsuri suplimentare de siguranță.

  • Securitate
  • Prompt leaking
  • +1
Șablon

Firewall IA

Un firewall IA este un strat de protecție între utilizatori, surse de date și un model IA. Filtrează intrările pentru încercări de manipulare, precum prompt injection sau jailbreak-uri, și verifică ieșirile, de exemplu pentru date confidențiale sau conținut nedorit, înainte de a le transmite mai departe. Poate folosi reguli, modele de clasificare sau un al doilea model lingvistic. Un firewall IA reduce riscul, dar nu oferă protecție completă și nu înlocuiește nici permisiunile limitate, nici testarea.

  • Securitate
  • prompt injection
  • +1
Șablon

OWASP LLM Top 10

OWASP Top 10 for LLM Applications este o listă a celor mai importante riscuri de securitate din aplicațiile construite pe modele lingvistice de mari dimensiuni, publicată de OWASP GenAI Security Project. Ediția curentă din 2026 a apărut în august 2026 (stare la octombrie 2026) și cuprinde: prompt injection, divulgarea informațiilor sensibile, autonomie excesivă a agentului, lanțul de aprovizionare, otrăvirea datelor și a modelului, consum nelimitat, dezinformare, expunerea contextului ascuns, vulnerabilități ale vectorilor și ale embedding-urilor și gestionarea necorespunzătoare a rezultatelor. Servește drept listă de verificare pentru dezvoltare și audituri.

  • securitate
  • standard
  • +1
Șablon

Audit de securitate pentru chatbot

Un audit de securitate pentru chatbot este o verificare structurată a faptului dacă un chatbot IA protejează în mod adecvat datele confidențiale, instrucțiunile sale interne și permisiunile sale de acțiune. Examinează, printre altele, vulnerabilitatea la injectarea de prompturi, divulgarea neintenționată a informațiilor și accesul prea larg la instrumente – adesea după modelul OWASP Top 10 pentru aplicații LLM. Rezultatul este un raport cu o evaluare pentru fiecare domeniu de risc și măsuri concrete.

  • securitate
  • audit
  • +1
Șablon