LT
PrisijungtiPradėti
Terminų žodynas

Netiesioginė užklausos injekcija

Kas yra Netiesioginė užklausos injekcija?

Netiesioginės užklausos injekcijos (angl. indirect prompt injection) atveju manipuliuojantys nurodymai yra ne naudotojo įvestyje, o paslėpti turinyje, kurį DI sistema apdoroja pakeliui, pavyzdžiui, tinklalapiuose, el. laiškuose ar dokumentuose. Perskaitęs tokį turinį, agentas gali paslėptas komandas palaikyti tikromis užduotimis ir, pavyzdžiui, atskleisti duomenis. Apsaugos priemonės: išorinį turinį laikyti tik duomenimis, riboti leidimus, tikrinti įvestį ir reikalauti žmogaus patvirtinimo kritiniams veiksmams.

Kaip padeda KI.ordo

KI.ordo siūlo paruoštą DI ugniasienės šabloną, kurį galima pastatyti prieš agentą kaip papildomą tikrinimo sluoksnį, pavyzdžiui, kai turinys gaunamas per tinklalapių skaitymo įrankį.

Sužinoti daugiau : Netiesioginė užklausos injekcija

Tinkami šablonai

Temos

  • Saugumas
  • užklausos injekcija (prompt injection)
  • agentai

Išbandykite KI.ordo

Agentai, srautai ir šablonai vienoje darbo srityje – nemokama 24 valandų demonstracinė versija.

Pradėti demonstraciją
← Visi terminai

Susiję terminai

DI ugniasienė

DI ugniasienė – tai apsauginis sluoksnis tarp naudotojų, duomenų šaltinių ir DI modelio. Ji tikrina įvestį dėl manipuliavimo bandymų, tokių kaip užklausos injekcija ar jailbreak, ir prieš perduodama toliau tikrina išvestį, pavyzdžiui, dėl konfidencialių duomenų ar nepageidaujamo turinio. Ji gali naudoti taisykles, klasifikavimo modelius ar antrą kalbos modelį. DI ugniasienė mažina riziką, bet nesuteikia visiškos apsaugos ir nepakeičia nei ribotų leidimų, nei testavimo.

  • Saugumas
  • užklausos injekcija (prompt injection)
  • +1
Šablonas

Jailbreaking

Jailbreak – tai bandymai apeiti DI modelio saugos taisykles gudriai suformuluotomis užklausomis, kad jis sukurtų turinį ar atliktų veiksmus, kurių turėtų atsisakyti. Organizacijoms tai yra rizika, nes pokalbių robotas gali, pavyzdžiui, atskleisti konfidencialius nurodymus ar netinkamai atsakyti. Apsaugos priemonės: aiškūs sisteminiai nurodymai, įvesties ir išvesties tikrinimas, ribotos teisės, registravimas ir reguliarūs saugumo testai (red teaming).

  • Saugumas
  • piktnaudžiavimo prevencija
  • +1
Šablonas

LLM sauga

LLM sauga apima visas priemones, saugančias didelių kalbos modelių pagrindu sukurtas programas nuo piktnaudžiavimo, duomenų nutekėjimo ir nepageidaujamo elgesio. Tipinė rizika: užklausos injekcija, konfidencialių nurodymų ar duomenų atskleidimas ir agentai su pernelyg dideliais leidimais. Apsauga kyla iš kelių sluoksnių: aiškių nurodymų, apribotų teisių, įvesties ir išvesties patikrų, DI ugniasienių, red teaming ir reguliarių auditų.

  • saugumas
  • kalbos modeliai
  • +1
Šablonas

OWASP LLM Top 10

OWASP Top 10 for LLM Applications – svarbiausių saugumo rizikų, kylančių programoms, sukurtoms su dideliais kalbos modeliais, sąrašas, kurį skelbia OWASP GenAI Security Project. Dabartinis 2026 m. leidimas pasirodė 2026 m. rugpjūtį (2026 m. spalio mėn. duomenimis) ir apima: užklausų injekciją, jautrios informacijos atskleidimą, pernelyg didelius įgaliojimus, tiekimo grandinę, duomenų ir modelio užnuodijimą, neribotą išteklių naudojimą, dezinformaciją, paslėpto konteksto atskleidimą, vektorių ir įterpinių silpnybes bei netinkamą išvesties tvarkymą. Jis tarnauja kaip kontrolinis sąrašas kūrimui ir auditams.

  • saugumas
  • standartas
  • +1
Šablonas