Az OWASP Top 10 for LLM Applications a nagy nyelvi modellekre épülő alkalmazások legfontosabb biztonsági kockázatainak listája, amelyet az OWASP GenAI Security Project ad ki. A jelenlegi, 2026-os kiadás 2026 augusztusában jelent meg (2026. októberi állapot szerint), és a következőket tartalmazza: prompt injection, érzékeny információk kiszivárgása, túlzott ágensképesség (excessive agency), ellátási lánc, adat- és modellmérgezés, korlátlan erőforrás-felhasználás, félretájékoztatás, rejtett kontextus kiszivárgása, vektor- és beágyazási gyengeségek, valamint a kimenetek nem megfelelő kezelése. Ellenőrzőlistaként szolgál a fejlesztéshez és az auditokhoz.
Az MI-red teaming egy MI-rendszer strukturált vizsgálata a lehetséges támadók vagy a visszaélések szemszögéből. Szakemberek ellenőrzött módon tesztelik, hogy egy chatbot felfedi-e a bizalmas utasításokat, rávehető-e nem kívánt viselkedésre, közöl-e hamis tényeket, vagy kiszivárogtat-e adatokat. Az eredmények jobb utasításokba, szűrőkbe és jogosultságokba épülnek be. A chatbot biztonsági auditja ennek könnyebb formája: a konfigurációt és a mintabeszélgetéseket ismert kockázati területek – például az LLM-alkalmazásokra vonatkozó OWASP Top 10 – alapján értékeli.
Az LLM-biztonság mindazon intézkedéseket magában foglalja, amelyek a nagy nyelvi modellekre épülő alkalmazásokat védik a visszaélésektől, az adatszivárgástól és a nem kívánt viselkedéstől. Tipikus kockázatok: a prompt injection, a bizalmas utasítások vagy adatok kiszivárogtatása, valamint a túlzott jogosultságokkal rendelkező ügynökök. A védelem több rétegből áll: egyértelmű utasítások, korlátozott jogok, a bemenetek és kimenetek ellenőrzése, MI-tűzfalak, red teaming és rendszeres auditok.
A prompt leaking egy MI-rendszer belső utasításainak nem szándékos kiszivárogtatását jelenti, például amikor egy csevegőrobot egy ügyesen megfogalmazott kérésre felfedi a rendszerpromptját. Ez akkor válik problémává, ha az utasítások üzleti logikát, belső információkat vagy akár hozzáférési adatokat tartalmaznak. Az LLM-alkalmazásokra vonatkozó OWASP-lista kifejezetten megnevezi ezt a kockázatot. A leghatékonyabb védelem az, ha az utasításokat úgy írjuk meg, mintha nyilvánosságra kerülhetnének, soha nem tárolunk bennük titkokat, és a kimeneteket is ellenőrizzük.
