MT
IdħolIbda issa
Glossarju

Prompt injection indirett

X'inhu Prompt injection indirett?

F'prompt injection indirett, struzzjonijiet manipulattivi ma jkunux fl-input tal-utent iżda moħbija f'kontenut li sistema tal-IA tipproċessa matul it-triq, bħal paġni web, emails jew dokumenti. Meta aġent jaqra kontenut bħal dan, jista' jħawwad kmandi moħbija ma' kompiti ġenwini u, pereżempju, jiżvela data. Is-salvagwardji jinkludu li kontenut estern jiġi ttrattat strettament bħala data, limitazzjoni tal-permessi, skrinjar tal-inputs u talba għal approvazzjoni umana għal azzjonijiet kritiċi.

Kif jgħin KI.ordo

KI.ordo toffri mudell lest ta' firewall tal-IA li jista' jitqiegħed quddiem aġent bħala saff żejjed ta' skrinjar, pereżempju meta l-kontenut jasal permezz tal-għodda tal-qari tal-paġni web.

Sir af aktar : Prompt injection indirett

Mudelli li jaqblu

Suġġetti

  • Sigurtà
  • Prompt injection
  • Aġenti

Ipprova KI.ordo

Aġenti, flussi tax-xogħol u mudelli fi spazju tax-xogħol wieħed – demo b'xejn għal 24 siegħa.

Ibda d-demo
← It-termini kollha

Termini relatati

Firewall tal-IA

Firewall tal-IA huwa saff protettiv bejn l-utenti, is-sorsi tad-data u mudell tal-IA. Jiskrinja l-inputs għal tentattivi ta' manipulazzjoni bħal prompt injection jew jailbreaks u jiċċekkja l-outputs, pereżempju għal data kunfidenzjali jew kontenut mhux mixtieq, qabel ma jgħaddihom 'il quddiem. Jista' juża regoli, mudelli ta' klassifikazzjoni jew mudell lingwistiku ieħor. Firewall tal-IA inaqqas ir-riskju iżda ma joffrix protezzjoni sħiħa u ma jissostitwixxix permessi limitati u lanqas it-testijiet.

  • Sigurtà
  • Prompt injection
  • +1
Mudell

Jailbreaking

Il-jailbreaking jirreferi għal tentattivi biex jiġu evitati r-regoli tas-sikurezza ta' mudell tal-IA permezz ta' inputs formulati b'mod għaqli, sabiex jipproduċi kontenut jew jagħmel azzjonijiet li suppost jirrifjuta. Għall-organizzazzjonijiet dan huwa riskju, għax chatbot jista', pereżempju, jiżvela struzzjonijiet kunfidenzjali jew jirrispondi b'mod mhux xieraq. Il-miżuri protettivi jinkludu struzzjonijiet ċari tas-sistema, skrinjar tal-input u tal-output, permessi limitati, reġistrazzjoni u ttestjar regolari tas-sigurtà (red teaming).

  • Sigurtà
  • Prevenzjoni tal-abbuż
  • +1
Mudell

Sigurtà tal-LLM

Is-sigurtà tal-LLM tkopri l-miżuri kollha li jipproteġu applikazzjonijiet mibnija fuq mudelli lingwistiċi kbar minn użu ħażin, tnixxija tad-data u mġiba mhux mixtieqa. Riskji tipiċi jinkludu prompt injection, żvelar ta' struzzjonijiet jew data kunfidenzjali, u aġenti b'permessi eċċessivi. Il-protezzjoni tiġi minn diversi saffi: struzzjonijiet ċari, drittijiet ristretti, kontrolli tal-inputs u tal-outputs, firewalls tal-IA, red teaming u awditi regolari.

  • sigurtà
  • mudelli lingwistiċi
  • +1
Mudell

OWASP LLM Top 10

L-OWASP Top 10 for LLM Applications hija lista tar-riskji tas-sigurtà l-aktar importanti f'applikazzjonijiet mibnija fuq mudelli lingwistiċi kbar, ippubblikata mill-OWASP GenAI Security Project. L-edizzjoni kurrenti tal-2026 dehret f'Awwissu 2026 (kif inhu f'Ottubru 2026) u tkopri: prompt injection, żvelar ta' informazzjoni sensittiva, aġenzija eċċessiva, katina tal-provvista, avvelenament tad-data u tal-mudell, konsum bla limitu, informazzjoni qarrieqa, żvelar tal-kuntest moħbi, dgħufijiet tal-vetturi u tal-embeddings, u trattament mhux xieraq tal-output. Isservi bħala lista ta' kontroll għall-iżvilupp u l-awditjar.

  • sigurtà
  • standard
  • +1
Mudell