LV
PieteiktiesSākt tagad
Glosārijs

LLM drošība

Kas ir LLM drošība?

LLM drošība aptver visus pasākumus, kas aizsargā uz lielajiem valodas modeļiem balstītas lietojumprogrammas pret ļaunprātīgu izmantošanu, datu noplūdi un nevēlamu uzvedību. Tipiski riski ir uzvedņu injekcija, konfidenciālu norādījumu vai datu izpaušana un aģenti ar pārmērīgām atļaujām. Aizsardzību nodrošina vairāki slāņi: skaidri norādījumi, ierobežotas tiesības, ievaddatu un izvaddatu pārbaudes, MI ugunsmūri, red teaming un regulāri auditi.

Kā palīdz KI.ordo

KI.ordo lomas no skatītāja līdz īpašniekam nosaka, kam atļauts mainīt aģentus un zināšanas, izmaiņu žurnāls saglabā izmaiņu izsekojamību, un tērzēšanas robota drošības audita veidne atbalsta pārbaudes.

Uzzināt vairāk : LLM drošība

Atbilstošas veidnes

Tēmas

  • drošība
  • valodas modeļi
  • risku pārvaldība

Izmēģiniet KI.ordo

Aģenti, plūsmas un veidnes vienā darbvietā – bezmaksas 24 stundu demo.

Sākt demo
← Visi termini

Saistītie termini

MI ugunsmūris

MI ugunsmūris ir aizsargslānis starp lietotājiem, datu avotiem un MI modeli. Tas pārbauda ievaddatus, vai nav manipulācijas mēģinājumu, piemēram, uzvedņu injekcijas vai jailbreak, un pirms nodošanas tālāk pārbauda izvaddatus, piemēram, vai tajos nav konfidenciālu datu vai nevēlama satura. Tas var izmantot noteikumus, klasifikācijas modeļus vai otru valodas modeli. MI ugunsmūris mazina risku, bet nenodrošina pilnīgu aizsardzību un neaizstāj ne ierobežotas atļaujas, ne testēšanu.

  • Drošība
  • Uzvedņu injekcija
  • +1
Veidne

MI sarkanā komanda (red teaming)

MI sarkanā komanda (red teaming) ir strukturēta MI sistēmas pārbaude no potenciālu uzbrucēju vai ļaunprātīgas izmantošanas skatpunkta. Speciālisti kontrolēti pārbauda, vai tērzēšanas robots atklāj konfidenciālus norādījumus, vai to var pamudināt uz nevēlamu uzvedību, vai tas sniedz nepatiesus faktus vai atklāj datus. Konstatējumi palīdz uzlabot norādījumus, filtrus un atļaujas. Tērzēšanas robota drošības audits ir vieglāka forma: tas novērtē konfigurāciju un sarunu piemērus pret zināmām riska jomām, piemēram, OWASP Top 10 LLM lietojumprogrammām.

  • MI drošība
  • Drošības testēšana
  • +1
Veidne

Netiešā uzvedņu injekcija

Netiešā uzvedņu injekcijā manipulatīvi norādījumi nav lietotāja ievaddatos, bet paslēpti saturā, ko MI sistēma apstrādā ceļā, piemēram, tīmekļa lapās, e-pastos vai dokumentos. Kad aģents nolasa šādu saturu, tas slēptās komandas var palaist garām kā īstus uzdevumus un, piemēram, izpaust datus. Aizsardzības pasākumi ir ārēja satura stingra uzskatīšana par datiem, atļauju ierobežošana, ievaddatu pārbaude un cilvēka apstiprinājuma prasīšana kritiskām darbībām.

  • Drošība
  • Uzvedņu injekcija
  • +1
Veidne

OWASP LLM Top 10

OWASP Top 10 lielo valodas modeļu lietojumprogrammām ir svarīgāko drošības risku saraksts lietojumprogrammās, kas balstītas uz lielajiem valodas modeļiem, ko publicējis OWASP GenAI Security Project. Pašreizējais 2026. gada izdevums iznāca 2026. gada augustā (stāvoklis uz 2026. gada oktobri) un aptver: uzvednes injekciju, sensitīvas informācijas izpaušanu, pārmērīgu aģenta rīcības brīvību, piegādes ķēdi, datu un modeļu saindēšanu, neierobežotu resursu patēriņu, dezinformāciju, slēpta konteksta atklāšanu, vektoru un iegultņu vājās vietas un nepareizu izvaddatu apstrādi. Tas kalpo kā kontrolsaraksts izstrādei un auditiem.

  • drošība
  • standarts
  • +1
Veidne