ET
Logi sisseAlusta kohe
Sõnastik

TI tulemüür

Mis on TI tulemüür?

TI tulemüür on kaitsekiht kasutajate, andmeallikate ja TI-mudeli vahel. See filtreerib sisendeid manipuleerimiskatsete, nagu prompt injection või jailbreak, suhtes ning kontrollib väljundeid, näiteks konfidentsiaalsete andmete või soovimatu sisu osas, enne nende edasiandmist. See võib kasutada reegleid, klassifitseerimismudeleid või teist keelemudelit. TI tulemüür vähendab riski, kuid ei paku täielikku kaitset ning ei asenda piiratud õigusi ega testimist.

Kuidas KI.ordo aitab

KI.ordo pakub valmis TI tulemüüri malli, mis liigitab sisendid kahjututeks või kahtlasteks ja mille saab agendi ette paigutada alamtöövoona.

Loe lähemalt : TI tulemüür

Sobivad mallid

Teemad

  • Turvalisus
  • Prompt injection
  • Kaitsekiht

Proovi KI.ordot

Agendid, töövood ja mallid ühes tööruumis – tasuta 24-tunnine demo.

Alusta demot
← Kõik terminid

Seotud terminid

Kaudne prompt injection

Kaudse prompt injection'i korral ei ole manipuleerivad juhised kasutaja sisendis, vaid peidetud sisus, mida TI-süsteem muu hulgas töötleb, näiteks veebilehtedel, e-kirjades või dokumentides. Kui agent sellist sisu loeb, võib ta peidetud käsud ekslikult päris ülesanneteks pidada ja näiteks andmeid avaldada. Kaitsemeetmed on välise sisu käsitlemine rangelt andmetena, õiguste piiramine, sisendite filtreerimine ja inimese kinnituse nõudmine kriitiliste toimingute puhul.

  • Turvalisus
  • Prompt injection
  • +1
Mall

Jailbreaking

Jailbreaking tähendab katseid TI-mudeli ohutusreeglitest mööda hiilida nutikalt sõnastatud sisenditega, et see looks sisu või teeks toiminguid, millest ta peaks keelduma. Organisatsioonide jaoks on see risk, sest vestlusrobot võib näiteks avaldada konfidentsiaalseid juhiseid või reageerida sobimatult. Kaitsemeetmed on selged süsteemijuhised, sisendite ja väljundite filtreerimine, piiratud õigused, logimine ja regulaarne turvatestimine (red teaming).

  • Turvalisus
  • Väärkasutuse ennetamine
  • +1
Mall

LLM-i turvalisus

LLM-i turvalisus hõlmab kõiki meetmeid, mis kaitsevad suurtel keelemudelitel põhinevaid rakendusi väärkasutuse, andmelekke ja soovimatu käitumise eest. Tüüpilised riskid on prompt injection, konfidentsiaalsete juhiste või andmete avaldamine ning liiga laiade õigustega agendid. Kaitse tuleneb mitmest kihist: selged juhised, piiratud õigused, sisendite ja väljundite kontroll, TI tulemüürid, red teaming ja regulaarsed auditid.

  • turvalisus
  • keelemudelid
  • +1
Mall

OWASP LLM Top 10

OWASP Top 10 suurte keelemudelite rakendustele on nimekiri olulisematest turvariskidest suurtel keelemudelitel põhinevates rakendustes, mille avaldab OWASP GenAI Security Project. Praegune 2026. aasta väljaanne ilmus 2026. aasta augustis (seisuga oktoober 2026) ja hõlmab: prompti süstimist (prompt injection), tundliku teabe avalikuks tulemist, liigset agentsust, tarneahelat, andme- ja mudelimürgitust, piiramatut ressursikasutust, väärinfot, varjatud konteksti paljastumist, vektorite ja embeddingute nõrkusi ning väljundite ebaõiget käsitlemist. See on kontrollnimekirjaks arenduses ja auditites.

  • turvalisus
  • standard
  • +1
Mall