RO
AutentificareÎncepeți acum
Glosar

Exfiltrarea datelor

Ce este Exfiltrarea datelor?

Exfiltrarea datelor este transferul neautorizat de date în afara unui sistem. În aplicațiile IA, aceasta se poate produce atunci când un chatbot sau un agent este manipulat prin intrări special concepute sau conținut pregătit – de exemplu pe o pagină web pe care o citește – astfel încât să dezvăluie sau să transmită informații confidențiale. Protecția include drepturi de acces minime, verificarea intrărilor, restricții privind conexiunile de ieșire și monitorizarea răspunsurilor.

Cum ajută KI.ordo

Șablonul „Firewall IA” din KI.ordo poate fi plasat în fața unui agent ca subflux și blochează intrările care încearcă, de exemplu, să obțină instrucțiunile de sistem sau date.

Aflați mai multe : Exfiltrarea datelor

Șabloane potrivite

Subiecte

  • Securitatea IA
  • protecția datelor
  • prompt injection

Încercați KI.ordo

Agenți, fluxuri și șabloane într-un singur spațiu de lucru – demo gratuit de 24 de ore.

Porniți demo-ul
← Toți termenii

Termeni înrudiți

Firewall IA

Un firewall IA este un strat de protecție între utilizatori, surse de date și un model IA. Filtrează intrările pentru încercări de manipulare, precum prompt injection sau jailbreak-uri, și verifică ieșirile, de exemplu pentru date confidențiale sau conținut nedorit, înainte de a le transmite mai departe. Poate folosi reguli, modele de clasificare sau un al doilea model lingvistic. Un firewall IA reduce riscul, dar nu oferă protecție completă și nu înlocuiește nici permisiunile limitate, nici testarea.

  • Securitate
  • prompt injection
  • +1
Șablon

Prompt injection indirect

În cazul unui prompt injection indirect, instrucțiunile manipulatoare nu se află în intrarea utilizatorului, ci sunt ascunse în conținutul pe care un sistem IA îl prelucrează pe parcurs, precum pagini web, e-mailuri sau documente. Când un agent citește un astfel de conținut, poate confunda comenzile ascunse cu sarcini reale și, de exemplu, poate divulga date. Măsurile de protecție includ tratarea conținutului extern strict ca date, limitarea permisiunilor, filtrarea intrărilor și solicitarea aprobării umane pentru acțiunile critice.

  • Securitate
  • prompt injection
  • +1
Șablon

Prompt leaking

Prompt leaking (scurgerea promptului) desemnează dezvăluirea neintenționată a instrucțiunilor interne ale unui sistem de IA, de exemplu atunci când un chatbot își dezvăluie promptul de sistem ca răspuns la o solicitare formulată abil. Devine o problemă dacă acele instrucțiuni conțin logică de business, informații interne sau chiar date de acces. Lista OWASP pentru aplicațiile LLM menționează explicit acest risc. Cea mai eficientă protecție este să scrieți instrucțiunile ca și cum ar putea deveni publice, să nu stocați niciodată secrete în ele și să verificați și rezultatele.

  • Securitatea IA
  • prompt de sistem
  • +1
Șablon

Securitatea LLM

Securitatea LLM cuprinde toate măsurile care protejează aplicațiile construite pe modele lingvistice de mari dimensiuni împotriva utilizării abuzive, a scurgerilor de date și a comportamentului nedorit. Riscurile tipice includ prompt injection, dezvăluirea de instrucțiuni sau date confidențiale și agenții cu permisiuni excesive. Protecția provine din mai multe straturi: instrucțiuni clare, drepturi restricționate, verificări ale intrărilor și ieșirilor, firewall-uri IA, red teaming și audituri periodice.

  • securitate
  • modele lingvistice
  • +1
Șablon