Sanasto

Adversariaalinen koneoppiminen

Mikä on Adversariaalinen koneoppiminen?

Adversariaalinen koneoppiminen tutkii, miten tekoälymalleja voidaan johtaa harhaan tarkoituksella manipuloiduilla syötteillä tai opetusdatalla – ja miten niitä voidaan suojata. Tunnettuja esimerkkejä ovat tuskin näkyvät kuvamuutokset, jotka kääntävät luokituksen, tai myrkytetty opetusdata. Aihe on organisaatioille tärkeä heti, kun tekoäly tukee tietoturvan kannalta merkittäviä päätöksiä. Vastatoimia ovat robusti koulutus, syötteiden tarkistus, valvonta ja säännöllinen tietoturvatestaus.

Aiheet

Tekoälyn tietoturva
Robustisuus
Uhkilta suojautuminen

Kokeile KI.ordoa

Agentit, työnkulut ja mallit yhdessä työtilassa – maksuton 24 tunnin demo.

Aloita demo

← Kaikki termit

Liittyvät termit

Mallin kestävyys

Mallin kestävyys (robustness) kuvaa, kuinka luotettavasti tekoälymalli toimii, kun syötteet ovat kohinaisia, puutteellisia, epätavallisia tai tarkoituksella manipuloituja. Kestävä malli tuottaa silti vakaita tuloksia, esimerkiksi tunnistaa kuvia huonossa valaistuksessa tai selviää kielimallina kirjoitusvirheistä. Kestävyyttä arvioidaan stressitesteillä, monipuolisella opetusdatalla ja tahallisia harhautusyrityksiä vastaan tehtävillä testeillä, ja se on erityisen tärkeää turvallisuuskriittisissä sovelluksissa.

luotettavuus
mallin laatu
+1

Tekoälyn red teaming

Tekoälyn red teaming on tekoälyjärjestelmän jäsennelty tarkastelu mahdollisten hyökkääjien tai väärinkäytön näkökulmasta. Asiantuntijat testaavat hallitusti, paljastaako chatbot luottamuksellisia ohjeita, voiko sen johdattaa ei-toivottuun käytökseen, antaako se vääriä faktoja tai paljastaako se tietoja. Havainnot hyödynnetään parempina kehotteina, suodattimina ja käyttöoikeuksina. Chatbotin tietoturva-auditointi on kevyempi muoto: siinä arvioidaan konfiguraatiota ja esimerkkikeskusteluja tunnettuja riskialueita vasten, kuten LLM-sovellusten OWASP Top 10 -listaa.

Tekoälyn tietoturva
Tietoturvatestaus
+1

Malli

LLM-tietoturva

LLM-tietoturva kattaa kaikki toimenpiteet, jotka suojaavat suuriin kielimalleihin perustuvia sovelluksia väärinkäytöltä, tietovuodoilta ja ei-toivotulta käyttäytymiseltä. Tyypillisiä riskejä ovat kehoteinjektio, luottamuksellisten ohjeiden tai tietojen paljastuminen ja agentit, joilla on liialliset oikeudet. Suoja syntyy useista kerroksista: selkeät ohjeet, rajatut oikeudet, syötteiden ja tulosteiden tarkistukset, tekoälypalomuurit, red teaming ja säännölliset auditoinnit.

tietoturva
kielimallit
+1

Malli

Opetusdata

Opetusdata ovat esimerkkejä, joista tekoälymalli oppii säännönmukaisuuksia: suuria tekstikokoelmia kielimalleille, luokiteltuja kuvia kuvamalleille. Niiden laatu, monipuolisuus ja ajantasaisuus määräävät pitkälti, kuinka luotettava ja oikeudenmukainen malli on ja kuinka ajan tasalla sen tietämys on. Organisaatioille on myös tärkeää, käyttääkö tarjoaja syöttämiään asiakastietoja jatko-opetukseen.

Data
Training
+1