Glossarju

Tagħlim awtomatiku avversarju

X'inhu Tagħlim awtomatiku avversarju?

It-tagħlim awtomatiku avversarju jistudja kif il-mudelli tal-IA jistgħu jiġu qarrqu b'inputs jew data tat-taħriġ immanipulati apposta – u kif jistgħu jiġu protetti. Eżempji magħrufa huma bidliet fl-immaġini li bilkemm jidhru iżda li jaqilbu klassifikazzjoni, jew data tat-taħriġ avvelenata. Is-suġġett huwa importanti għall-organizzazzjonijiet hekk kif l-IA tibda tappoġġa deċiżjonijiet rilevanti għas-sigurtà. Il-kontromiżuri jinkludu taħriġ robust, verifiki tal-input, monitoraġġ u ttestjar regolari tas-sigurtà.

Suġġetti

Sigurtà tal-IA
Robustezza
Protezzjoni kontra t-theddid

Ipprova KI.ordo

Aġenti, flussi tax-xogħol u mudelli fi spazju tax-xogħol wieħed – demo b'xejn għal 24 siegħa.

Ibda d-demo

← It-termini kollha

Termini relatati

Robustezza tal-mudell

Ir-robustezza tal-mudell tiddeskrivi kemm mudell tal-IA jaħdem b'mod affidabbli meta l-inputs ikunu storbjużi, mhux kompluti, mhux tas-soltu jew manipulati apposta. Mudell robust xorta jagħti riżultati stabbli, bħar-rikonoxximent ta' immaġini f'dawl ħażin jew mudell lingwistiku li jlaħħaq ma' żbalji tat-tipjar. Ir-robustezza tiġi evalwata permezz ta' ittestjar taħt stress, data tat-taħriġ diversa u testijiet kontra tentattivi deliberati ta' qerq, u hija partikolarment importanti f'applikazzjonijiet kritiċi għas-sigurtà.

affidabbiltà
kwalità tal-mudell
+1

Red teaming tal-IA

Ir-red teaming tal-IA huwa l-eżami strutturat ta' sistema tal-IA mill-perspettiva ta' attakkanti potenzjali jew ta' użu ħażin. L-ispeċjalisti jittestjaw b'mod ikkontrollat jekk chatbot jiżvelax struzzjonijiet kunfidenzjali, jistax jitwassal għal imġiba mhux mixtieqa, jagħtix fatti foloz jew jesponix data. Is-sejbiet iwasslu għal struzzjonijiet, filtri u permessi aħjar. Verifika tas-sigurtà taċ-chatbot hija forma eħfef: tivvaluta l-konfigurazzjoni u konversazzjonijiet ta' kampjun skont oqsma ta' riskju magħrufa bħall-OWASP Top 10 għall-Applikazzjonijiet LLM.

Sigurtà tal-IA
Ittestjar tas-sigurtà
+1

Mudell

Sigurtà tal-LLM

Is-sigurtà tal-LLM tkopri l-miżuri kollha li jipproteġu applikazzjonijiet mibnija fuq mudelli lingwistiċi kbar minn użu ħażin, tnixxija tad-data u mġiba mhux mixtieqa. Riskji tipiċi jinkludu prompt injection, żvelar ta' struzzjonijiet jew data kunfidenzjali, u aġenti b'permessi eċċessivi. Il-protezzjoni tiġi minn diversi saffi: struzzjonijiet ċari, drittijiet ristretti, kontrolli tal-inputs u tal-outputs, firewalls tal-IA, red teaming u awditi regolari.

sigurtà
mudelli lingwistiċi
+1

Mudell

Data tat-taħriġ

Id-data tat-taħriġ hija l-eżempji li minnhom mudell tal-IA jitgħallem mudelli: kollezzjonijiet kbar ta' test għal mudelli lingwistiċi, immaġini ttikkettjati għal mudelli tal-immaġini. Il-kwalità, id-diversità u l-aġġornament tagħha jiddeterminaw ħafna kemm mudell ikun affidabbli u ġust u kemm l-għarfien tiegħu jkun aġġornat. Għall-organizzazzjonijiet huwa importanti wkoll jekk fornitur juża d-data tal-klijenti li jidħlu għal aktar taħriġ.

Data
Training
+1