CS
Přihlásit seZačít
Glosář

OWASP LLM Top 10

Co je OWASP LLM Top 10?

OWASP Top 10 pro aplikace LLM je seznam nejdůležitějších bezpečnostních rizik u aplikací postavených na velkých jazykových modelech, který publikuje projekt OWASP GenAI Security Project. Aktuální vydání z roku 2026 vyšlo v srpnu 2026 (stav k říjnu 2026) a zahrnuje: prompt injection, únik citlivých informací, nadměrnou autonomii (excessive agency), dodavatelský řetězec, otravu dat a modelů, neomezenou spotřebu, dezinformace, odhalení skrytého kontextu, slabiny vektorů a embeddingů a nesprávné zpracování výstupů. Slouží jako kontrolní seznam pro vývoj a audity.

Jak pomáhá KI.ordo

Šablona KI.ordo „Audit bezpečnosti chatbota“ posuzuje pokyny agenta a ukázkové konverzace podle oblastí rizik OWASP Top 10 pro aplikace LLM.

Zjistit více : OWASP LLM Top 10

Vhodné šablony

Témata

  • bezpečnost
  • standard
  • audit

Vyzkoušet KI.ordo

Agenti, postupy a šablony v jednom pracovním prostoru – 24hodinové demo zdarma.

Spustit demo
← Všechny pojmy

Související pojmy

bezpečnost LLM

Bezpečnost LLM zahrnuje všechna opatření, která chrání aplikace postavené na velkých jazykových modelech před zneužitím, únikem dat a nežádoucím chováním. Typická rizika zahrnují prompt injection, vyzrazení důvěrných pokynů nebo dat a agenty s nadměrnými oprávněními. Ochrana vychází z několika vrstev: jasné pokyny, omezená práva, kontroly vstupů a výstupů, AI firewally, red teaming a pravidelné audity.

  • bezpečnost
  • jazykové modely
  • +1
Šablona

Nepřímá prompt injection

Při nepřímé prompt injection nejsou manipulativní pokyny ve vstupu uživatele, ale ukryté v obsahu, který systém AI mimochodem zpracovává, například na webových stránkách, v e-mailech nebo dokumentech. Když agent takový obsah čte, může skryté příkazy považovat za skutečné úkoly a například vyzradit data. Ochranou je důsledné zacházení s externím obsahem jako s daty, omezená oprávnění, kontrola vstupů a vyžadování lidského schválení u kritických akcí.

  • Bezpečnost
  • prompt injection
  • +1
Šablona

Bezpečnostní audit chatbota

Bezpečnostní audit chatbota je strukturovaná kontrola toho, zda AI chatbot dostatečně chrání důvěrná data, své interní pokyny a svá oprávnění k jednání. Zkoumá mimo jiné náchylnost k prompt injection, nezamýšlené prozrazení informací a příliš široký přístup k nástrojům – často podle OWASP Top 10 pro aplikace LLM. Výsledkem je zpráva s hodnocením každé rizikové oblasti a konkrétními opatřeními.

  • bezpečnost
  • audit
  • +1
Šablona

Únik promptu (prompt leaking)

Únik promptu označuje nezamýšlené odhalení interních pokynů AI systému, například když chatbot na šikovně formulovanou žádost prozradí svůj systémový prompt. Stává se problémem, pokud tyto pokyny obsahují obchodní logiku, interní informace nebo dokonce přístupové údaje. Seznam OWASP pro aplikace LLM toto riziko výslovně uvádí. Nejúčinnější ochranou je psát pokyny tak, jako by se mohly stát veřejnými, nikdy do nich neukládat tajné údaje a kontrolovat také výstupy.

  • Bezpečnost AI
  • systémový prompt
  • +1
Šablona