OWASP Top 10 za aplikacije LLM je seznam najpomembnejših varnostnih tveganj v aplikacijah, zgrajenih na velikih jezikovnih modelih, ki ga objavlja projekt OWASP GenAI Security Project. Aktualna izdaja 2026 je izšla avgusta 2026 (stanje oktober 2026) in zajema: injiciranje pozivov, razkritje občutljivih informacij, čezmerno pooblastilo agenta, dobavno verigo, zastrupitev podatkov in modela, neomejeno porabo, napačne informacije, razkritje skritega konteksta, slabosti vektorjev in vložitev ter nepravilno obravnavo izhodov. Služi kot kontrolni seznam za razvoj in revizije.
Red teaming za UI je strukturiran pregled sistema UI z vidika morebitnih napadalcev ali zlorabe. Strokovnjaki nadzorovano preizkušajo, ali klepetalni robot razkrije zaupna navodila, ali ga je mogoče zavesti v neželeno vedenje, ali navaja napačna dejstva ali izpostavi podatke. Ugotovitve se upoštevajo pri boljših navodilih, filtrih in dovoljenjih. Varnostna revizija klepetalnega robota je lažja oblika: konfiguracijo in vzorčne pogovore oceni glede na znana področja tveganj, kot je OWASP Top 10 za aplikacije LLM.
Varnost LLM zajema vse ukrepe, ki aplikacije na osnovi velikih jezikovnih modelov ščitijo pred zlorabo, uhajanjem podatkov in neželenim vedenjem. Tipična tveganja so vstavljanje ukazov, razkritje zaupnih navodil ali podatkov in agenti s prekomernimi pooblastili. Zaščita izhaja iz več plasti: jasnih navodil, omejenih pravic, preverjanja vnosov in izpisov, požarnih zidov UI, red teaminga in rednih pregledov.
Uhajanje pozivov označuje nenamerno razkritje notranjih navodil sistema UI, na primer kadar klepetalni robot na zvito zastavljeno zahtevo razkrije svoj sistemski poziv. Težava nastane, če ta navodila vsebujejo poslovno logiko, notranje informacije ali celo poverilnice. Seznam OWASP za aplikacije LLM to tveganje izrecno navaja. Najučinkovitejša zaščita je, da navodila pišete, kot da bi lahko postala javna, vanje nikoli ne shranjujete skrivnosti in preverjate tudi izhode.
