CS
Přihlásit seZačít
Glosář

Extrakce systémového promptu

Co je Extrakce systémového promptu?

Extrakce systémového promptu označuje pokusy přimět chatbota nebo AI agenta, aby prozradil své skryté systémové pokyny. Pokud se takový pokus podaří, výsledek se nazývá únik promptu: extrakce je útok, únik je jeho důsledek. Účinná ochrana začíná tím, že hesla, klíče a důvěrná pravidla do pokynů nepatří a počítá se s tím, že se mohou stát veřejnými; další jištění přidávají kontroly vstupů a pravidelné testování.

Jak pomáhá KI.ordo

Šablona KI.ordo „Audit bezpečnosti chatbota“ kontroluje pokyny agenta z hlediska rizik, jako je prozrazení systémových pokynů, a nabízí neškodné otázky pro vlastní test.

Zjistit více : Extrakce systémového promptu

Vhodné šablony

Témata

  • Bezpečnost
  • Únik promptu (prompt leaking)
  • Chatbots

Vyzkoušet KI.ordo

Agenti, postupy a šablony v jednom pracovním prostoru – 24hodinové demo zdarma.

Spustit demo
← Všechny pojmy

Související pojmy

Únik promptu (prompt leaking)

Únik promptu označuje nezamýšlené odhalení interních pokynů AI systému, například když chatbot na šikovně formulovanou žádost prozradí svůj systémový prompt. Stává se problémem, pokud tyto pokyny obsahují obchodní logiku, interní informace nebo dokonce přístupové údaje. Seznam OWASP pro aplikace LLM toto riziko výslovně uvádí. Nejúčinnější ochranou je psát pokyny tak, jako by se mohly stát veřejnými, nikdy do nich neukládat tajné údaje a kontrolovat také výstupy.

  • Bezpečnost AI
  • systémový prompt
  • +1
Šablona

Jailbreaking

Jailbreaking označuje pokusy obejít bezpečnostní pravidla modelu AI důmyslně formulovanými vstupy, aby vytvořil obsah nebo provedl akce, které má odmítnout. Pro organizace je to riziko, protože chatbot by mohl například prozradit důvěrné pokyny nebo odpovědět nevhodně. Ochrannými opatřeními jsou jasné systémové pokyny, kontrola vstupů a výstupů, omezená oprávnění, protokolování a pravidelné bezpečnostní testy (red teaming).

  • Bezpečnost
  • prevence zneužití
  • +1
Šablona

Bezpečnostní audit chatbota

Bezpečnostní audit chatbota je strukturovaná kontrola toho, zda AI chatbot dostatečně chrání důvěrná data, své interní pokyny a svá oprávnění k jednání. Zkoumá mimo jiné náchylnost k prompt injection, nezamýšlené prozrazení informací a příliš široký přístup k nástrojům – často podle OWASP Top 10 pro aplikace LLM. Výsledkem je zpráva s hodnocením každé rizikové oblasti a konkrétními opatřeními.

  • bezpečnost
  • audit
  • +1
Šablona

OWASP LLM Top 10

OWASP Top 10 pro aplikace LLM je seznam nejdůležitějších bezpečnostních rizik u aplikací postavených na velkých jazykových modelech, který publikuje projekt OWASP GenAI Security Project. Aktuální vydání z roku 2026 vyšlo v srpnu 2026 (stav k říjnu 2026) a zahrnuje: prompt injection, únik citlivých informací, nadměrnou autonomii (excessive agency), dodavatelský řetězec, otravu dat a modelů, neomezenou spotřebu, dezinformace, odhalení skrytého kontextu, slabiny vektorů a embeddingů a nesprávné zpracování výstupů. Slouží jako kontrolní seznam pro vývoj a audity.

  • bezpečnost
  • standard
  • +1
Šablona