SK
Prihlásiť saZačať
Slovník pojmov

Bezpečnostný audit chatbota

Čo je Bezpečnostný audit chatbota?

Bezpečnostný audit chatbota je štruktúrované preverenie, či AI chatbot dostatočne chráni dôverné údaje, svoje interné pokyny a svoje oprávnenia konať. Skúma sa okrem iného náchylnosť na prompt injection, neúmyselné prezradenie informácií a príliš široký prístup k nástrojom – často podľa OWASP Top 10 pre aplikácie LLM. Výsledkom je správa s hodnotením každej rizikovej oblasti a konkrétnymi opatreniami.

Ako pomáha KI.ordo

KI.ordo ponúka šablónu, ktorá z pokynov agenta a vzorových konverzácií vytvorí návrh správy z auditu s opatreniami a neškodnými otázkami na samotestovanie.

Zistiť viac : Bezpečnostný audit chatbota

Vhodné šablóny

Témy

  • bezpečnosť
  • audit
  • OWASP

Vyskúšajte KI.ordo

Agenti, postupy a šablóny v jednom pracovnom priestore – bezplatné 24-hodinové demo.

Spustiť demo
← Všetky pojmy

Súvisiace pojmy

OWASP LLM Top 10

OWASP Top 10 pre aplikácie s LLM je zoznam najdôležitejších bezpečnostných rizík v aplikáciách postavených na veľkých jazykových modeloch, ktorý zverejňuje projekt OWASP GenAI Security Project. Aktuálne vydanie 2026 vyšlo v auguste 2026 (stav k októbru 2026) a zahŕňa: prompt injection, zverejnenie citlivých informácií, nadmernú autonómiu (excessive agency), dodávateľský reťazec, otrávenie dát a modelov, neobmedzenú spotrebu, dezinformácie, odhalenie skrytého kontextu, slabiny vektorov a embeddingov a nesprávne spracovanie výstupov. Slúži ako kontrolný zoznam pre vývoj a audity.

  • bezpečnosť
  • štandard
  • +1
Šablóna

AI red teaming

AI red teaming je štruktúrované preverovanie AI systému z pohľadu potenciálnych útočníkov alebo zneužitia. Špecialisti kontrolovane testujú, či chatbot neprezradí dôverné pokyny, či ho nemožno priviesť k nežiaducemu správaniu, či neuvádza nepravdivé fakty alebo nesprístupní údaje. Zistenia sa premietajú do lepších pokynov, filtrov a oprávnení. Bezpečnostný audit chatbota je jeho ľahšia forma: posudzuje konfiguráciu a vzorové konverzácie podľa známych rizikových oblastí, ako je OWASP Top 10 pre aplikácie LLM.

  • Bezpečnosť AI
  • Bezpečnostné testovanie
  • +1
Šablóna

Bezpečnosť LLM

Bezpečnosť LLM zahŕňa všetky opatrenia, ktoré chránia aplikácie postavené na veľkých jazykových modeloch pred zneužitím, únikom údajov a nežiaducim správaním. Typické riziká zahŕňajú prompt injection, prezradenie dôverných pokynov alebo údajov a agentov s nadmernými oprávneniami. Ochranu zabezpečuje viacero vrstiev: jasné pokyny, obmedzené práva, kontroly vstupov a výstupov, AI firewally, red teaming a pravidelné audity.

  • bezpečnosť
  • jazykové modely
  • +1
Šablóna

Prompt leaking

Prompt leaking označuje neúmyselné prezradenie interných pokynov systému AI, napríklad keď chatbot na šikovne formulovanú požiadavku vyzradí svoj systémový prompt. Problémom sa to stáva, ak tieto pokyny obsahujú obchodnú logiku, interné informácie alebo dokonca prístupové údaje. Zoznam OWASP pre aplikácie s LLM toto riziko výslovne uvádza. Najúčinnejšou ochranou je písať pokyny tak, akoby sa mohli stať verejnými, nikdy do nich neukladať tajomstvá a kontrolovať aj výstupy.

  • Bezpečnosť AI
  • systémový prompt
  • +1
Šablóna