Glossarju

IA fiċ-ċibersigurtà

X'inhu IA fiċ-ċibersigurtà?

L-IA fiċ-ċibersigurtà għandha żewġ naħat. Minn naħa, tekniki tal-IA jgħinu jinqabdu attakki aktar malajr, pereżempju billi jinstabu anomaliji fit-traffiku tan-netwerk, login suspettużi jew emails ta' phishing, u jtaffu l-piż tat-timijiet tas-sigurtà fl-għażla tal-prijorità tal-allerti. Min-naħa l-oħra, is-sistemi tal-IA infushom iridu jiġu protetti, pereżempju kontra prompt injection jew tnixxija tad-data. L-IA hija effettiva hawnhekk biss flimkien ma' proċessi ċari, sistemi aġġornati u persuni mħarrġa.

Suġġetti

Sigurtà
Individwazzjoni tat-theddid
Protezzjoni

Ipprova KI.ordo

Aġenti, flussi tax-xogħol u mudelli fi spazju tax-xogħol wieħed – demo b'xejn għal 24 siegħa.

Ibda d-demo

← It-termini kollha

Termini relatati

Skoperta tal-anomaliji

L-iskoperta tal-anomaliji ssib punti tad-data, avvenimenti jew mudelli li jvarjaw b'mod notevoli min-norma. Dawn jistgħu jkunu tranżazzjonijiet kbar b'mod mhux tas-soltu, qabżiet f'daqqa fil-qari tas-sensuri, rekords duplikati jew attività suspettuża fin-netwerk. Tintuża fil-finanzi, fis-sigurtà tal-IT, fil-manifattura u fil-kontroll tal-kwalità. Il-metodi jvarjaw minn limiti statistiċi sempliċi sa mudelli li jitgħallmu; is-sejbiet huma indikazzjonijiet li persuna għandha tivvaluta.

Analiżi tad-data
Kontroll tal-kwalità
+1

Mudell

Sigurtà tal-LLM

Is-sigurtà tal-LLM tkopri l-miżuri kollha li jipproteġu applikazzjonijiet mibnija fuq mudelli lingwistiċi kbar minn użu ħażin, tnixxija tad-data u mġiba mhux mixtieqa. Riskji tipiċi jinkludu prompt injection, żvelar ta' struzzjonijiet jew data kunfidenzjali, u aġenti b'permessi eċċessivi. Il-protezzjoni tiġi minn diversi saffi: struzzjonijiet ċari, drittijiet ristretti, kontrolli tal-inputs u tal-outputs, firewalls tal-IA, red teaming u awditi regolari.

sigurtà
mudelli lingwistiċi
+1

Mudell

Ittestjar tal-penetrazzjoni tal-IA

Test tal-penetrazzjoni tal-IA huwa valutazzjoni tas-sigurtà kkummissjonata u kkontrollata li fiha speċjalisti jittestjaw deliberatament sistema tal-IA għal dgħufijiet, bħal prompt injection, tnixxija ta' data kunfidenzjali jew aġent b'permessi eċċessivi. Għall-kuntrarju tar-red teaming usa', jiffoka fuq kamp ta' applikazzjoni definit b'mod ċar b'sejbiet u rimedji ddokumentati. Jaqbel li jsir qabel ma chatbot jibda jaħdem u wara bidliet kbar.

Sigurtà
Valutazzjoni
+1

Mudell

Red teaming tal-IA

Ir-red teaming tal-IA huwa l-eżami strutturat ta' sistema tal-IA mill-perspettiva ta' attakkanti potenzjali jew ta' użu ħażin. L-ispeċjalisti jittestjaw b'mod ikkontrollat jekk chatbot jiżvelax struzzjonijiet kunfidenzjali, jistax jitwassal għal imġiba mhux mixtieqa, jagħtix fatti foloz jew jesponix data. Is-sejbiet iwasslu għal struzzjonijiet, filtri u permessi aħjar. Verifika tas-sigurtà taċ-chatbot hija forma eħfef: tivvaluta l-konfigurazzjoni u konversazzjonijiet ta' kampjun skont oqsma ta' riskju magħrufa bħall-OWASP Top 10 għall-Applikazzjonijiet LLM.

Sigurtà tal-IA
Ittestjar tas-sigurtà
+1

Mudell