FI
Kirjaudu sisäänAloita nyt
Sanasto

Kehotteen vuotaminen

Mikä on Kehotteen vuotaminen?

Kehotteen vuotaminen (prompt leaking) tarkoittaa tekoälyjärjestelmän sisäisten ohjeiden tahatonta paljastumista, esimerkiksi kun chatbot paljastaa järjestelmäkehotteensa taidokkaasti muotoillun pyynnön seurauksena. Tämä muodostuu ongelmaksi, jos ohjeet sisältävät liiketoimintalogiikkaa, sisäisiä tietoja tai jopa tunnistetietoja. OWASPin LLM-sovellusten luettelo mainitsee tämän riskin nimenomaisesti. Tehokkain suoja on kirjoittaa ohjeet niin, kuin ne voisivat tulla julkisiksi, olla koskaan tallentamatta niihin salaisuuksia ja tarkistaa myös tulosteet.

Miten KI.ordo auttaa

KI.ordon malli ”Chatbotin tietoturva-auditointi” auttaa tarkistamaan agentin kehotteen tämän riskin varalta; salasanoja ja muita salaisuuksia ei pidä koskaan sijoittaa kehotteeseen.

Lue lisää : Kehotteen vuotaminen

Sopivat mallit

Aiheet

  • Tekoälyn tietoturva
  • järjestelmäkehote
  • tietosuoja

Kokeile KI.ordoa

Agentit, työnkulut ja mallit yhdessä työtilassa – maksuton 24 tunnin demo.

Aloita demo
← Kaikki termit

Liittyvät termit

Järjestelmäkehotteen poiminta

Järjestelmäkehotteen poiminta (system prompt extraction) tarkoittaa yrityksiä saada chatbot tai tekoälyagentti paljastamaan piilotetut järjestelmäohjeensa. Jos yritys onnistuu, lopputulosta kutsutaan kehotteen vuotamiseksi: poiminta on hyökkäys, vuoto sen seuraus. Tehokas suojaus alkaa siitä, että salasanat, avaimet ja luottamukselliset säännöt pidetään poissa ohjeista ja oletetaan niiden voivan tulla julkisiksi; syötteiden tarkistus ja säännöllinen testaus lisäävät suojaa.

  • Tietoturva
  • Kehotteen vuotaminen
  • +1
Malli

Tekoälypalomuuri

Tekoälypalomuuri on suojakerros käyttäjien, tietolähteiden ja tekoälymallin välissä. Se seuloo syötteistä manipulointiyritykset, kuten kehoteinjektion tai jailbreakit, ja tarkistaa tulosteet, esimerkiksi luottamuksellisen datan tai ei-toivotun sisällön varalta, ennen kuin ne välitetään eteenpäin. Se voi käyttää sääntöjä, luokittelumalleja tai toista kielimallia. Tekoälypalomuuri pienentää riskiä mutta ei tarjoa täydellistä suojaa eikä korvaa rajattuja oikeuksia tai testausta.

  • Tietoturva
  • kehoteinjektio
  • +1
Malli

OWASP LLM Top 10

OWASP Top 10 for LLM Applications on luettelo suurten kielimallien varaan rakennettujen sovellusten tärkeimmistä tietoturvariskeistä, ja sen julkaisee OWASP GenAI Security Project. Nykyinen vuoden 2026 painos ilmestyi elokuussa 2026 (tilanne: lokakuu 2026), ja se kattaa seuraavat: kehoteinjektio, arkaluonteisten tietojen paljastuminen, liiallinen toimivalta, toimitusketju, datan ja mallin myrkytys, rajoittamaton kulutus, väärä tieto, piilotetun kontekstin paljastuminen, vektori- ja upotusheikkoudet sekä virheellinen tulosteen käsittely. Se toimii tarkistuslistana kehityksessä ja auditoinneissa.

  • tietoturva
  • standardi
  • +1
Malli

Chatbotin tietoturva-auditointi

Chatbotin tietoturva-auditointi on jäsennelty tarkastus siitä, suojaako tekoälychatbot riittävästi luottamukselliset tiedot, sisäiset ohjeensa ja toimintavaltuutensa. Siinä tarkastellaan muun muassa alttiutta kehoteinjektiolle, tietojen tahatonta paljastumista ja liian laajoja työkalujen käyttöoikeuksia – usein LLM-sovellusten OWASP Top 10 -listan mukaisesti. Tuloksena on raportti, jossa on arvio kullekin riskialueelle ja konkreettiset toimenpiteet.

  • tietoturva
  • auditointi
  • +1
Malli