ET
Logi sisseAlusta kohe
Sõnastik

OWASP LLM Top 10

Mis on OWASP LLM Top 10?

OWASP Top 10 suurte keelemudelite rakendustele on nimekiri olulisematest turvariskidest suurtel keelemudelitel põhinevates rakendustes, mille avaldab OWASP GenAI Security Project. Praegune 2026. aasta väljaanne ilmus 2026. aasta augustis (seisuga oktoober 2026) ja hõlmab: prompti süstimist (prompt injection), tundliku teabe avalikuks tulemist, liigset agentsust, tarneahelat, andme- ja mudelimürgitust, piiramatut ressursikasutust, väärinfot, varjatud konteksti paljastumist, vektorite ja embeddingute nõrkusi ning väljundite ebaõiget käsitlemist. See on kontrollnimekirjaks arenduses ja auditites.

Kuidas KI.ordo aitab

KI.ordo mall „Vestlusroboti turvaaudit“ hindab agendi juhiseid ja näidisvestlusi OWASP Top 10 suurte keelemudelite rakendustele riskivaldkondade vastu.

Loe lähemalt : OWASP LLM Top 10

Sobivad mallid

Teemad

  • turvalisus
  • standard
  • audit

Proovi KI.ordot

Agendid, töövood ja mallid ühes tööruumis – tasuta 24-tunnine demo.

Alusta demot
← Kõik terminid

Seotud terminid

LLM-i turvalisus

LLM-i turvalisus hõlmab kõiki meetmeid, mis kaitsevad suurtel keelemudelitel põhinevaid rakendusi väärkasutuse, andmelekke ja soovimatu käitumise eest. Tüüpilised riskid on prompt injection, konfidentsiaalsete juhiste või andmete avaldamine ning liiga laiade õigustega agendid. Kaitse tuleneb mitmest kihist: selged juhised, piiratud õigused, sisendite ja väljundite kontroll, TI tulemüürid, red teaming ja regulaarsed auditid.

  • turvalisus
  • keelemudelid
  • +1
Mall

Kaudne prompt injection

Kaudse prompt injection'i korral ei ole manipuleerivad juhised kasutaja sisendis, vaid peidetud sisus, mida TI-süsteem muu hulgas töötleb, näiteks veebilehtedel, e-kirjades või dokumentides. Kui agent sellist sisu loeb, võib ta peidetud käsud ekslikult päris ülesanneteks pidada ja näiteks andmeid avaldada. Kaitsemeetmed on välise sisu käsitlemine rangelt andmetena, õiguste piiramine, sisendite filtreerimine ja inimese kinnituse nõudmine kriitiliste toimingute puhul.

  • Turvalisus
  • Prompt injection
  • +1
Mall

Vestlusroboti turvaaudit

Vestlusroboti turvaaudit on struktureeritud ülevaatus selle kohta, kas TI-vestlusrobot kaitseb piisavalt konfidentsiaalseid andmeid, oma sisemisi juhiseid ja oma tegutsemisõigusi. Muu hulgas uuritakse vastuvõtlikkust juhiste süstimisele (prompt injection), teabe tahtmatut avalikustamist ja liiga laia ligipääsu tööriistadele – sageli OWASP Top 10 for LLM Applications järgi. Tulemuseks on aruanne, milles on hinnang iga riskivaldkonna kohta ja konkreetsed meetmed.

  • turvalisus
  • audit
  • +1
Mall

Prompti leke

Prompti leke (prompt leaking) tähendab TI-süsteemi sisemiste juhiste tahtmatut avalikuks tulemist, näiteks kui vestlusrobot paljastab oma süsteemiprompti nutikalt sõnastatud päringu peale. See muutub probleemiks, kui need juhised sisaldavad ärilogikat, sisemist teavet või isegi pääsuandmeid. OWASP-i loend suurte keelemudelite rakendustele nimetab seda riski selgesõnaliselt. Tõhusaim kaitse on kirjutada juhised nii, nagu need võiksid avalikuks saada, mitte kunagi salvestada neisse saladusi ja kontrollida ka väljundeid.

  • TI turvalisus
  • süsteemiprompt
  • +1
Mall