În cazul unui prompt injection indirect, instrucțiunile manipulatoare nu se află în intrarea utilizatorului, ci sunt ascunse în conținutul pe care un sistem IA îl prelucrează pe parcurs, precum pagini web, e-mailuri sau documente. Când un agent citește un astfel de conținut, poate confunda comenzile ascunse cu sarcini reale și, de exemplu, poate divulga date. Măsurile de protecție includ tratarea conținutului extern strict ca date, limitarea permisiunilor, filtrarea intrărilor și solicitarea aprobării umane pentru acțiunile critice.
Un firewall IA este un strat de protecție între utilizatori, surse de date și un model IA. Filtrează intrările pentru încercări de manipulare, precum prompt injection sau jailbreak-uri, și verifică ieșirile, de exemplu pentru date confidențiale sau conținut nedorit, înainte de a le transmite mai departe. Poate folosi reguli, modele de clasificare sau un al doilea model lingvistic. Un firewall IA reduce riscul, dar nu oferă protecție completă și nu înlocuiește nici permisiunile limitate, nici testarea.
Token smuggling este o formă de jailbreaking în care instrucțiunile nedorite sunt deghizate, de exemplu fragmentate, recodificate sau scrise cu caractere asemănătoare, astfel încât filtrele simple după cuvinte-cheie să le rateze, în timp ce modelul lingvistic le înțelege totuși sensul. Protecția include normalizarea intrărilor înainte de evaluarea lor, verificări bazate pe conținut, nu doar pe cuvinte, controlul rezultatelor și acordarea către agenții IA a unui număr cât mai mic de permisiuni.
Jailbreaking desemnează încercările de a ocoli regulile de siguranță ale unui model IA prin intrări formulate inteligent, astfel încât acesta să producă conținut sau să întreprindă acțiuni pe care ar trebui să le refuze. Pentru organizații, acesta este un risc, deoarece un chatbot ar putea, de exemplu, să dezvăluie instrucțiuni confidențiale sau să răspundă nepotrivit. Măsurile de protecție includ instrucțiuni de sistem clare, filtrarea intrărilor și ieșirilor, permisiuni limitate, înregistrare în jurnal și teste de securitate periodice (red teaming).
