Az MI-tűzfal védőréteg a felhasználók, az adatforrások és egy MI-modell között. Átvizsgálja a bemeneteket manipulációs kísérletek – például prompt injection vagy jailbreak – után, és továbbadás előtt ellenőrzi a kimeneteket, például bizalmas adatok vagy nem kívánt tartalom szempontjából. Szabályokat, osztályozó modelleket vagy egy második nyelvi modellt használhat. Az MI-tűzfal csökkenti a kockázatot, de nem nyújt teljes védelmet, és nem helyettesíti sem a korlátozott jogosultságokat, sem a tesztelést.
A közvetett prompt injection esetén a manipulatív utasítások nem a felhasználó bemenetében vannak, hanem olyan tartalomba rejtve, amelyet az MI-rendszer menet közben dolgoz fel, például weboldalakba, e-mailekbe vagy dokumentumokba. Ha egy ügynök ilyen tartalmat olvas, a rejtett parancsokat valódi feladatnak vélheti, és például adatokat adhat ki. A védelem eszközei: a külső tartalom szigorúan adatként kezelése, a jogosultságok korlátozása, a bemenetek átvizsgálása és emberi jóváhagyás megkövetelése a kritikus műveleteknél.
A prompt leaking egy MI-rendszer belső utasításainak nem szándékos kiszivárogtatását jelenti, például amikor egy csevegőrobot egy ügyesen megfogalmazott kérésre felfedi a rendszerpromptját. Ez akkor válik problémává, ha az utasítások üzleti logikát, belső információkat vagy akár hozzáférési adatokat tartalmaznak. Az LLM-alkalmazásokra vonatkozó OWASP-lista kifejezetten megnevezi ezt a kockázatot. A leghatékonyabb védelem az, ha az utasításokat úgy írjuk meg, mintha nyilvánosságra kerülhetnének, soha nem tárolunk bennük titkokat, és a kimeneteket is ellenőrizzük.
Az LLM-biztonság mindazon intézkedéseket magában foglalja, amelyek a nagy nyelvi modellekre épülő alkalmazásokat védik a visszaélésektől, az adatszivárgástól és a nem kívánt viselkedéstől. Tipikus kockázatok: a prompt injection, a bizalmas utasítások vagy adatok kiszivárogtatása, valamint a túlzott jogosultságokkal rendelkező ügynökök. A védelem több rétegből áll: egyértelmű utasítások, korlátozott jogok, a bemenetek és kimenetek ellenőrzése, MI-tűzfalak, red teaming és rendszeres auditok.
