FI
Kirjaudu sisäänAloita nyt
Sanasto

Datan vuotaminen (data exfiltration)

Mikä on Datan vuotaminen (data exfiltration)?

Data exfiltration tarkoittaa tietojen luvatonta siirtämistä ulos järjestelmästä. Tekoälysovelluksissa se voi tapahtua, kun chatbot tai agentti saadaan harhaanjohtavilla syötteillä tai valmistellulla sisällöllä – esimerkiksi lukemallaan verkkosivulla – paljastamaan tai välittämään luottamuksellisia tietoja. Suojauskeinoja ovat minimaaliset käyttöoikeudet, syötteiden tarkistus, ulospäin suuntautuvien yhteyksien rajoittaminen ja vastausten seuranta.

Miten KI.ordo auttaa

KI.ordon ”Tekoälypalomuuri”-mallin voi sijoittaa agentin eteen alityönkulkuna, ja se pysäyttää syötteet, joilla yritetään esimerkiksi saada selville järjestelmäohjeita tai tietoja.

Lue lisää : Datan vuotaminen (data exfiltration)

Sopivat mallit

Aiheet

  • Tekoälyn tietoturva
  • tietosuoja
  • kehoteinjektio

Kokeile KI.ordoa

Agentit, työnkulut ja mallit yhdessä työtilassa – maksuton 24 tunnin demo.

Aloita demo
← Kaikki termit

Liittyvät termit

Tekoälypalomuuri

Tekoälypalomuuri on suojakerros käyttäjien, tietolähteiden ja tekoälymallin välissä. Se seuloo syötteistä manipulointiyritykset, kuten kehoteinjektion tai jailbreakit, ja tarkistaa tulosteet, esimerkiksi luottamuksellisen datan tai ei-toivotun sisällön varalta, ennen kuin ne välitetään eteenpäin. Se voi käyttää sääntöjä, luokittelumalleja tai toista kielimallia. Tekoälypalomuuri pienentää riskiä mutta ei tarjoa täydellistä suojaa eikä korvaa rajattuja oikeuksia tai testausta.

  • Tietoturva
  • kehoteinjektio
  • +1
Malli

Epäsuora kehoteinjektio

Epäsuorassa kehoteinjektiossa manipuloivat ohjeet eivät ole käyttäjän syötteessä vaan piilotettu sisältöön, jota tekoälyjärjestelmä käsittelee matkan varrella, kuten verkkosivuihin, sähköposteihin tai dokumentteihin. Kun agentti lukee tällaista sisältöä, se saattaa luulla piilotettuja komentoja aidoiksi tehtäviksi ja esimerkiksi paljastaa tietoja. Suojauskeinoja ovat ulkoisen sisällön tiukka käsittely pelkkänä datana, oikeuksien rajoittaminen, syötteiden seulonta ja ihmisen hyväksynnän vaatiminen kriittisille toimille.

  • Tietoturva
  • kehoteinjektio
  • +1
Malli

Kehotteen vuotaminen

Kehotteen vuotaminen (prompt leaking) tarkoittaa tekoälyjärjestelmän sisäisten ohjeiden tahatonta paljastumista, esimerkiksi kun chatbot paljastaa järjestelmäkehotteensa taidokkaasti muotoillun pyynnön seurauksena. Tämä muodostuu ongelmaksi, jos ohjeet sisältävät liiketoimintalogiikkaa, sisäisiä tietoja tai jopa tunnistetietoja. OWASPin LLM-sovellusten luettelo mainitsee tämän riskin nimenomaisesti. Tehokkain suoja on kirjoittaa ohjeet niin, kuin ne voisivat tulla julkisiksi, olla koskaan tallentamatta niihin salaisuuksia ja tarkistaa myös tulosteet.

  • Tekoälyn tietoturva
  • järjestelmäkehote
  • +1
Malli

LLM-tietoturva

LLM-tietoturva kattaa kaikki toimenpiteet, jotka suojaavat suuriin kielimalleihin perustuvia sovelluksia väärinkäytöltä, tietovuodoilta ja ei-toivotulta käyttäytymiseltä. Tyypillisiä riskejä ovat kehoteinjektio, luottamuksellisten ohjeiden tai tietojen paljastuminen ja agentit, joilla on liialliset oikeudet. Suoja syntyy useista kerroksista: selkeät ohjeet, rajatut oikeudet, syötteiden ja tulosteiden tarkistukset, tekoälypalomuurit, red teaming ja säännölliset auditoinnit.

  • tietoturva
  • kielimallit
  • +1
Malli