FI
Kirjaudu sisäänAloita nyt
Sanasto

Token Smuggling

Mikä on Token Smuggling?

Token smuggling on jailbreak-tyyppinen hyökkäys, jossa ei-toivotut ohjeet naamioidaan, esimerkiksi pilkotaan osiin, koodataan uudelleen tai kirjoitetaan samannäköisillä merkeillä, jotta yksinkertaiset avainsanasuodattimet eivät havaitse niitä mutta kielimalli silti ymmärtää niiden merkityksen. Suojautumiskeinoja ovat syötteiden normalisointi ennen arviointia, sisältöön perustuvat eikä pelkästään sanapohjaiset tarkistukset, tulosteiden tarkastelu ja tekoälyagenteille annettavien oikeuksien pitäminen mahdollisimman vähäisinä.

Miten KI.ordo auttaa

KI.ordon malli ”Tekoälypalomuuri: tarkista syöte” arvioi epäilyttävien syötteiden sisällön ennen kuin ne pääsevät agentille ja estää ne tarvittaessa.

Lue lisää : Token Smuggling

Sopivat mallit

Aiheet

  • Tietoturva
  • Jailbreaking
  • LLM

Kokeile KI.ordoa

Agentit, työnkulut ja mallit yhdessä työtilassa – maksuton 24 tunnin demo.

Aloita demo
← Kaikki termit

Liittyvät termit

Jailbreaking

Jailbreaking tarkoittaa yrityksiä kiertää tekoälymallin turvasääntöjä kekseliäästi muotoilluilla syötteillä, jotta se tuottaa sisältöä tai tekee toimia, joista sen pitäisi kieltäytyä. Organisaatioille tämä on riski, koska chatbot voisi esimerkiksi paljastaa luottamuksellisia ohjeita tai vastata sopimattomasti. Suojatoimia ovat selkeät järjestelmäohjeet, syötteiden ja tulosteiden seulonta, rajatut oikeudet, lokitus ja säännölliset tietoturvatestit (red teaming).

  • Tietoturva
  • väärinkäytön estäminen
  • +1
Malli

Tekoälypalomuuri

Tekoälypalomuuri on suojakerros käyttäjien, tietolähteiden ja tekoälymallin välissä. Se seuloo syötteistä manipulointiyritykset, kuten kehoteinjektion tai jailbreakit, ja tarkistaa tulosteet, esimerkiksi luottamuksellisen datan tai ei-toivotun sisällön varalta, ennen kuin ne välitetään eteenpäin. Se voi käyttää sääntöjä, luokittelumalleja tai toista kielimallia. Tekoälypalomuuri pienentää riskiä mutta ei tarjoa täydellistä suojaa eikä korvaa rajattuja oikeuksia tai testausta.

  • Tietoturva
  • kehoteinjektio
  • +1
Malli

LLM-tietoturva

LLM-tietoturva kattaa kaikki toimenpiteet, jotka suojaavat suuriin kielimalleihin perustuvia sovelluksia väärinkäytöltä, tietovuodoilta ja ei-toivotulta käyttäytymiseltä. Tyypillisiä riskejä ovat kehoteinjektio, luottamuksellisten ohjeiden tai tietojen paljastuminen ja agentit, joilla on liialliset oikeudet. Suoja syntyy useista kerroksista: selkeät ohjeet, rajatut oikeudet, syötteiden ja tulosteiden tarkistukset, tekoälypalomuurit, red teaming ja säännölliset auditoinnit.

  • tietoturva
  • kielimallit
  • +1
Malli

Epäsuora kehoteinjektio

Epäsuorassa kehoteinjektiossa manipuloivat ohjeet eivät ole käyttäjän syötteessä vaan piilotettu sisältöön, jota tekoälyjärjestelmä käsittelee matkan varrella, kuten verkkosivuihin, sähköposteihin tai dokumentteihin. Kun agentti lukee tällaista sisältöä, se saattaa luulla piilotettuja komentoja aidoiksi tehtäviksi ja esimerkiksi paljastaa tietoja. Suojauskeinoja ovat ulkoisen sisällön tiukka käsittely pelkkänä datana, oikeuksien rajoittaminen, syötteiden seulonta ja ihmisen hyväksynnän vaatiminen kriittisille toimille.

  • Tietoturva
  • kehoteinjektio
  • +1
Malli