LV
PieteiktiesSākt tagad
Glosārijs

Uzvednes noplūde

Kas ir Uzvednes noplūde?

Uzvednes noplūde nozīmē MI sistēmas iekšējo norādījumu netīšu izpaušanu, piemēram, kad tērzēšanas robots atklāj savu sistēmas uzvedni atbildē uz atjautīgi formulētu pieprasījumu. Tā kļūst problēma, ja šajos norādījumos ir biznesa loģika, iekšēja informācija vai pat piekļuves dati. OWASP saraksts lietojumprogrammām uz lielo valodas modeļu bāzes šo risku nosauc tieši. Visefektīvākais aizsardzības līdzeklis ir rakstīt norādījumus tā, it kā tie varētu kļūt publiski, tajos nekad neglabāt noslēpumus un pārbaudīt arī izvaddatus.

Kā palīdz KI.ordo

KI.ordo veidne „Tērzēšanas robota drošības audits” palīdz pārbaudīt aģenta norādījumus attiecībā uz šo risku; paroles un citus noslēpumus tajos nekad nedrīkst ievietot.

Uzzināt vairāk : Uzvednes noplūde

Atbilstošas veidnes

Tēmas

  • MI drošība
  • sistēmas uzvedne
  • datu aizsardzība

Izmēģiniet KI.ordo

Aģenti, plūsmas un veidnes vienā darbvietā – bezmaksas 24 stundu demo.

Sākt demo
← Visi termini

Saistītie termini

Sistēmas uzvednes izgūšana

Sistēmas uzvednes izgūšana apzīmē mēģinājumus panākt, lai tērzēšanas robots vai MI aģents atklātu savus slēptos sistēmas norādījumus. Ja šāds mēģinājums izdodas, rezultātu sauc par uzvednes noplūdi: izgūšana ir uzbrukums, noplūde ir sekas. Efektīva aizsardzība sākas ar to, ka paroles, atslēgas un konfidenciāli noteikumi netiek iekļauti norādījumos un tiek pieņemts, ka tie var kļūt publiski; ievades pārbaudes un regulāra testēšana nodrošina papildu aizsardzību.

  • Drošība
  • Uzvednes noplūde
  • +1
Veidne

MI ugunsmūris

MI ugunsmūris ir aizsargslānis starp lietotājiem, datu avotiem un MI modeli. Tas pārbauda ievaddatus, vai nav manipulācijas mēģinājumu, piemēram, uzvedņu injekcijas vai jailbreak, un pirms nodošanas tālāk pārbauda izvaddatus, piemēram, vai tajos nav konfidenciālu datu vai nevēlama satura. Tas var izmantot noteikumus, klasifikācijas modeļus vai otru valodas modeli. MI ugunsmūris mazina risku, bet nenodrošina pilnīgu aizsardzību un neaizstāj ne ierobežotas atļaujas, ne testēšanu.

  • Drošība
  • Uzvedņu injekcija
  • +1
Veidne

OWASP LLM Top 10

OWASP Top 10 lielo valodas modeļu lietojumprogrammām ir svarīgāko drošības risku saraksts lietojumprogrammās, kas balstītas uz lielajiem valodas modeļiem, ko publicējis OWASP GenAI Security Project. Pašreizējais 2026. gada izdevums iznāca 2026. gada augustā (stāvoklis uz 2026. gada oktobri) un aptver: uzvednes injekciju, sensitīvas informācijas izpaušanu, pārmērīgu aģenta rīcības brīvību, piegādes ķēdi, datu un modeļu saindēšanu, neierobežotu resursu patēriņu, dezinformāciju, slēpta konteksta atklāšanu, vektoru un iegultņu vājās vietas un nepareizu izvaddatu apstrādi. Tas kalpo kā kontrolsaraksts izstrādei un auditiem.

  • drošība
  • standarts
  • +1
Veidne

Tērzēšanas robota drošības audits

Tērzēšanas robota drošības audits ir strukturēta pārbaude, vai MI tērzēšanas robots pietiekami aizsargā konfidenciālus datus, savus iekšējos norādījumus un savas darbības atļaujas. Tiek pārbaudīta, cita starpā, uzņēmība pret uzvedņu injekciju, neparedzēta informācijas izpaušana un pārāk plaša piekļuve rīkiem – bieži vadoties pēc OWASP Top 10 LLM lietojumprogrammām. Rezultāts ir ziņojums ar novērtējumu katrai riska jomai un konkrētiem pasākumiem.

  • drošība
  • audits
  • +1
Veidne