FI
Kirjaudu sisäänAloita nyt
Sanasto

OWASP LLM Top 10

Mikä on OWASP LLM Top 10?

OWASP Top 10 for LLM Applications on luettelo suurten kielimallien varaan rakennettujen sovellusten tärkeimmistä tietoturvariskeistä, ja sen julkaisee OWASP GenAI Security Project. Nykyinen vuoden 2026 painos ilmestyi elokuussa 2026 (tilanne: lokakuu 2026), ja se kattaa seuraavat: kehoteinjektio, arkaluonteisten tietojen paljastuminen, liiallinen toimivalta, toimitusketju, datan ja mallin myrkytys, rajoittamaton kulutus, väärä tieto, piilotetun kontekstin paljastuminen, vektori- ja upotusheikkoudet sekä virheellinen tulosteen käsittely. Se toimii tarkistuslistana kehityksessä ja auditoinneissa.

Miten KI.ordo auttaa

KI.ordon malli ”Chatbotin tietoturva-auditointi” arvioi agentin kehotteen ja esimerkkikeskustelut OWASP Top 10 for LLM Applications -luettelon riskialueita vasten.

Lue lisää : OWASP LLM Top 10

Sopivat mallit

Aiheet

  • tietoturva
  • standardi
  • auditointi

Kokeile KI.ordoa

Agentit, työnkulut ja mallit yhdessä työtilassa – maksuton 24 tunnin demo.

Aloita demo
← Kaikki termit

Liittyvät termit

LLM-tietoturva

LLM-tietoturva kattaa kaikki toimenpiteet, jotka suojaavat suuriin kielimalleihin perustuvia sovelluksia väärinkäytöltä, tietovuodoilta ja ei-toivotulta käyttäytymiseltä. Tyypillisiä riskejä ovat kehoteinjektio, luottamuksellisten ohjeiden tai tietojen paljastuminen ja agentit, joilla on liialliset oikeudet. Suoja syntyy useista kerroksista: selkeät ohjeet, rajatut oikeudet, syötteiden ja tulosteiden tarkistukset, tekoälypalomuurit, red teaming ja säännölliset auditoinnit.

  • tietoturva
  • kielimallit
  • +1
Malli

Epäsuora kehoteinjektio

Epäsuorassa kehoteinjektiossa manipuloivat ohjeet eivät ole käyttäjän syötteessä vaan piilotettu sisältöön, jota tekoälyjärjestelmä käsittelee matkan varrella, kuten verkkosivuihin, sähköposteihin tai dokumentteihin. Kun agentti lukee tällaista sisältöä, se saattaa luulla piilotettuja komentoja aidoiksi tehtäviksi ja esimerkiksi paljastaa tietoja. Suojauskeinoja ovat ulkoisen sisällön tiukka käsittely pelkkänä datana, oikeuksien rajoittaminen, syötteiden seulonta ja ihmisen hyväksynnän vaatiminen kriittisille toimille.

  • Tietoturva
  • kehoteinjektio
  • +1
Malli

Chatbotin tietoturva-auditointi

Chatbotin tietoturva-auditointi on jäsennelty tarkastus siitä, suojaako tekoälychatbot riittävästi luottamukselliset tiedot, sisäiset ohjeensa ja toimintavaltuutensa. Siinä tarkastellaan muun muassa alttiutta kehoteinjektiolle, tietojen tahatonta paljastumista ja liian laajoja työkalujen käyttöoikeuksia – usein LLM-sovellusten OWASP Top 10 -listan mukaisesti. Tuloksena on raportti, jossa on arvio kullekin riskialueelle ja konkreettiset toimenpiteet.

  • tietoturva
  • auditointi
  • +1
Malli

Kehotteen vuotaminen

Kehotteen vuotaminen (prompt leaking) tarkoittaa tekoälyjärjestelmän sisäisten ohjeiden tahatonta paljastumista, esimerkiksi kun chatbot paljastaa järjestelmäkehotteensa taidokkaasti muotoillun pyynnön seurauksena. Tämä muodostuu ongelmaksi, jos ohjeet sisältävät liiketoimintalogiikkaa, sisäisiä tietoja tai jopa tunnistetietoja. OWASPin LLM-sovellusten luettelo mainitsee tämän riskin nimenomaisesti. Tehokkain suoja on kirjoittaa ohjeet niin, kuin ne voisivat tulla julkisiksi, olla koskaan tallentamatta niihin salaisuuksia ja tarkistaa myös tulosteet.

  • Tekoälyn tietoturva
  • järjestelmäkehote
  • +1
Malli