LT
PrisijungtiPradėti
Terminų žodynas

OWASP LLM Top 10

Kas yra OWASP LLM Top 10?

OWASP Top 10 for LLM Applications – svarbiausių saugumo rizikų, kylančių programoms, sukurtoms su dideliais kalbos modeliais, sąrašas, kurį skelbia OWASP GenAI Security Project. Dabartinis 2026 m. leidimas pasirodė 2026 m. rugpjūtį (2026 m. spalio mėn. duomenimis) ir apima: užklausų injekciją, jautrios informacijos atskleidimą, pernelyg didelius įgaliojimus, tiekimo grandinę, duomenų ir modelio užnuodijimą, neribotą išteklių naudojimą, dezinformaciją, paslėpto konteksto atskleidimą, vektorių ir įterpinių silpnybes bei netinkamą išvesties tvarkymą. Jis tarnauja kaip kontrolinis sąrašas kūrimui ir auditams.

Kaip padeda KI.ordo

KI.ordo šablonas „Pokalbių roboto saugumo auditas“ įvertina agento nurodymus ir pokalbių pavyzdžius pagal OWASP Top 10 for LLM Applications rizikos sritis.

Sužinoti daugiau : OWASP LLM Top 10

Tinkami šablonai

Temos

  • saugumas
  • standartas
  • auditas

Išbandykite KI.ordo

Agentai, srautai ir šablonai vienoje darbo srityje – nemokama 24 valandų demonstracinė versija.

Pradėti demonstraciją
← Visi terminai

Susiję terminai

LLM sauga

LLM sauga apima visas priemones, saugančias didelių kalbos modelių pagrindu sukurtas programas nuo piktnaudžiavimo, duomenų nutekėjimo ir nepageidaujamo elgesio. Tipinė rizika: užklausos injekcija, konfidencialių nurodymų ar duomenų atskleidimas ir agentai su pernelyg dideliais leidimais. Apsauga kyla iš kelių sluoksnių: aiškių nurodymų, apribotų teisių, įvesties ir išvesties patikrų, DI ugniasienių, red teaming ir reguliarių auditų.

  • saugumas
  • kalbos modeliai
  • +1
Šablonas

Netiesioginė užklausos injekcija

Netiesioginės užklausos injekcijos (angl. indirect prompt injection) atveju manipuliuojantys nurodymai yra ne naudotojo įvestyje, o paslėpti turinyje, kurį DI sistema apdoroja pakeliui, pavyzdžiui, tinklalapiuose, el. laiškuose ar dokumentuose. Perskaitęs tokį turinį, agentas gali paslėptas komandas palaikyti tikromis užduotimis ir, pavyzdžiui, atskleisti duomenis. Apsaugos priemonės: išorinį turinį laikyti tik duomenimis, riboti leidimus, tikrinti įvestį ir reikalauti žmogaus patvirtinimo kritiniams veiksmams.

  • Saugumas
  • užklausos injekcija (prompt injection)
  • +1
Šablonas

Pokalbių roboto saugumo auditas

Pokalbių roboto saugumo auditas – struktūruota patikra, ar DI pokalbių robotas tinkamai saugo konfidencialius duomenis, savo vidinius nurodymus ir veiksmų leidimus. Be kita ko, tikrinamas jautrumas užklausos injekcijai, netyčinis informacijos atskleidimas ir per plati prieiga prie įrankių – dažnai pagal OWASP Top 10 LLM programoms. Rezultatas – ataskaita su kiekvienos rizikos srities įvertinimu ir konkrečiomis priemonėmis.

  • saugumas
  • auditas
  • +1
Šablonas

Užklausų nutekėjimas

Užklausų nutekėjimas (angl. prompt leaking) – tai netyčinis vidinių DI sistemos nurodymų atskleidimas, pavyzdžiui, kai pokalbių robotas gudriai suformuluotą prašymą atsakydamas parodo savo sisteminį nurodymą. Tai tampa problema, jei tuose nurodymuose yra verslo logikos, vidinės informacijos ar net prisijungimo duomenų. OWASP sąrašas LLM programoms šią riziką įvardija aiškiai. Veiksmingiausia apsauga – rašyti nurodymus taip, tarsi jie galėtų tapti vieši, niekada juose nesaugoti paslapčių ir tikrinti taip pat ir išvestį.

  • DI saugumas
  • sisteminis nurodymas
  • +1
Šablonas