LV
PieteiktiesSākt tagad
Glosārijs

OWASP LLM Top 10

Kas ir OWASP LLM Top 10?

OWASP Top 10 lielo valodas modeļu lietojumprogrammām ir svarīgāko drošības risku saraksts lietojumprogrammās, kas balstītas uz lielajiem valodas modeļiem, ko publicējis OWASP GenAI Security Project. Pašreizējais 2026. gada izdevums iznāca 2026. gada augustā (stāvoklis uz 2026. gada oktobri) un aptver: uzvednes injekciju, sensitīvas informācijas izpaušanu, pārmērīgu aģenta rīcības brīvību, piegādes ķēdi, datu un modeļu saindēšanu, neierobežotu resursu patēriņu, dezinformāciju, slēpta konteksta atklāšanu, vektoru un iegultņu vājās vietas un nepareizu izvaddatu apstrādi. Tas kalpo kā kontrolsaraksts izstrādei un auditiem.

Kā palīdz KI.ordo

KI.ordo veidne „Tērzēšanas robota drošības audits” vērtē aģenta norādījumus un paraugsarunas pret OWASP Top 10 lielo valodas modeļu lietojumprogrammām riska jomām.

Uzzināt vairāk : OWASP LLM Top 10

Atbilstošas veidnes

Tēmas

  • drošība
  • standarts
  • audits

Izmēģiniet KI.ordo

Aģenti, plūsmas un veidnes vienā darbvietā – bezmaksas 24 stundu demo.

Sākt demo
← Visi termini

Saistītie termini

LLM drošība

LLM drošība aptver visus pasākumus, kas aizsargā uz lielajiem valodas modeļiem balstītas lietojumprogrammas pret ļaunprātīgu izmantošanu, datu noplūdi un nevēlamu uzvedību. Tipiski riski ir uzvedņu injekcija, konfidenciālu norādījumu vai datu izpaušana un aģenti ar pārmērīgām atļaujām. Aizsardzību nodrošina vairāki slāņi: skaidri norādījumi, ierobežotas tiesības, ievaddatu un izvaddatu pārbaudes, MI ugunsmūri, red teaming un regulāri auditi.

  • drošība
  • valodas modeļi
  • +1
Veidne

Netiešā uzvedņu injekcija

Netiešā uzvedņu injekcijā manipulatīvi norādījumi nav lietotāja ievaddatos, bet paslēpti saturā, ko MI sistēma apstrādā ceļā, piemēram, tīmekļa lapās, e-pastos vai dokumentos. Kad aģents nolasa šādu saturu, tas slēptās komandas var palaist garām kā īstus uzdevumus un, piemēram, izpaust datus. Aizsardzības pasākumi ir ārēja satura stingra uzskatīšana par datiem, atļauju ierobežošana, ievaddatu pārbaude un cilvēka apstiprinājuma prasīšana kritiskām darbībām.

  • Drošība
  • Uzvedņu injekcija
  • +1
Veidne

Tērzēšanas robota drošības audits

Tērzēšanas robota drošības audits ir strukturēta pārbaude, vai MI tērzēšanas robots pietiekami aizsargā konfidenciālus datus, savus iekšējos norādījumus un savas darbības atļaujas. Tiek pārbaudīta, cita starpā, uzņēmība pret uzvedņu injekciju, neparedzēta informācijas izpaušana un pārāk plaša piekļuve rīkiem – bieži vadoties pēc OWASP Top 10 LLM lietojumprogrammām. Rezultāts ir ziņojums ar novērtējumu katrai riska jomai un konkrētiem pasākumiem.

  • drošība
  • audits
  • +1
Veidne

Uzvednes noplūde

Uzvednes noplūde nozīmē MI sistēmas iekšējo norādījumu netīšu izpaušanu, piemēram, kad tērzēšanas robots atklāj savu sistēmas uzvedni atbildē uz atjautīgi formulētu pieprasījumu. Tā kļūst problēma, ja šajos norādījumos ir biznesa loģika, iekšēja informācija vai pat piekļuves dati. OWASP saraksts lietojumprogrammām uz lielo valodas modeļu bāzes šo risku nosauc tieši. Visefektīvākais aizsardzības līdzeklis ir rakstīt norādījumus tā, it kā tie varētu kļūt publiski, tajos nekad neglabāt noslēpumus un pārbaudīt arī izvaddatus.

  • MI drošība
  • sistēmas uzvedne
  • +1
Veidne