SK
Prihlásiť saZačať
Slovník pojmov

OWASP LLM Top 10

Čo je OWASP LLM Top 10?

OWASP Top 10 pre aplikácie s LLM je zoznam najdôležitejších bezpečnostných rizík v aplikáciách postavených na veľkých jazykových modeloch, ktorý zverejňuje projekt OWASP GenAI Security Project. Aktuálne vydanie 2026 vyšlo v auguste 2026 (stav k októbru 2026) a zahŕňa: prompt injection, zverejnenie citlivých informácií, nadmernú autonómiu (excessive agency), dodávateľský reťazec, otrávenie dát a modelov, neobmedzenú spotrebu, dezinformácie, odhalenie skrytého kontextu, slabiny vektorov a embeddingov a nesprávne spracovanie výstupov. Slúži ako kontrolný zoznam pre vývoj a audity.

Ako pomáha KI.ordo

Šablóna KI.ordo „Bezpečnostný audit chatbota“ posudzuje pokyny agenta a ukážkové konverzácie podľa rizikových oblastí OWASP Top 10 pre aplikácie s LLM.

Zistiť viac : OWASP LLM Top 10

Vhodné šablóny

Témy

  • bezpečnosť
  • štandard
  • audit

Vyskúšajte KI.ordo

Agenti, postupy a šablóny v jednom pracovnom priestore – bezplatné 24-hodinové demo.

Spustiť demo
← Všetky pojmy

Súvisiace pojmy

Bezpečnosť LLM

Bezpečnosť LLM zahŕňa všetky opatrenia, ktoré chránia aplikácie postavené na veľkých jazykových modeloch pred zneužitím, únikom údajov a nežiaducim správaním. Typické riziká zahŕňajú prompt injection, prezradenie dôverných pokynov alebo údajov a agentov s nadmernými oprávneniami. Ochranu zabezpečuje viacero vrstiev: jasné pokyny, obmedzené práva, kontroly vstupov a výstupov, AI firewally, red teaming a pravidelné audity.

  • bezpečnosť
  • jazykové modely
  • +1
Šablóna

Nepriama prompt injection

Pri nepriamej prompt injection nie sú manipulatívne pokyny vo vstupe používateľa, ale skryté v obsahu, ktorý systém AI popri tom spracúva, napríklad na webových stránkach, v e-mailoch alebo dokumentoch. Keď agent takýto obsah prečíta, môže skryté príkazy pokladať za skutočné úlohy a napríklad prezradiť údaje. Ochrana zahŕňa striktné zaobchádzanie s externým obsahom ako s údajmi, obmedzenie oprávnení, kontrolu vstupov a vyžadovanie ľudského schválenia pri kritických akciách.

  • Bezpečnosť
  • prompt injection
  • +1
Šablóna

Bezpečnostný audit chatbota

Bezpečnostný audit chatbota je štruktúrované preverenie, či AI chatbot dostatočne chráni dôverné údaje, svoje interné pokyny a svoje oprávnenia konať. Skúma sa okrem iného náchylnosť na prompt injection, neúmyselné prezradenie informácií a príliš široký prístup k nástrojom – často podľa OWASP Top 10 pre aplikácie LLM. Výsledkom je správa s hodnotením každej rizikovej oblasti a konkrétnymi opatreniami.

  • bezpečnosť
  • audit
  • +1
Šablóna

Prompt leaking

Prompt leaking označuje neúmyselné prezradenie interných pokynov systému AI, napríklad keď chatbot na šikovne formulovanú požiadavku vyzradí svoj systémový prompt. Problémom sa to stáva, ak tieto pokyny obsahujú obchodnú logiku, interné informácie alebo dokonca prístupové údaje. Zoznam OWASP pre aplikácie s LLM toto riziko výslovne uvádza. Najúčinnejšou ochranou je písať pokyny tak, akoby sa mohli stať verejnými, nikdy do nich neukladať tajomstvá a kontrolovať aj výstupy.

  • Bezpečnosť AI
  • systémový prompt
  • +1
Šablóna