Mikä on Jailbreaking?
Jailbreaking tarkoittaa yrityksiä kiertää tekoälymallin turvasääntöjä kekseliäästi muotoilluilla syötteillä, jotta se tuottaa sisältöä tai tekee toimia, joista sen pitäisi kieltäytyä. Organisaatioille tämä on riski, koska chatbot voisi esimerkiksi paljastaa luottamuksellisia ohjeita tai vastata sopimattomasti. Suojatoimia ovat selkeät järjestelmäohjeet, syötteiden ja tulosteiden seulonta, rajatut oikeudet, lokitus ja säännölliset tietoturvatestit (red teaming).
Miten KI.ordo auttaa
KI.ordon valmiit mallit tekoälypalomuuriin ja chatbotin tietoturvatarkastukseen auttavat havaitsemaan epäilyttäviä syötteitä ja tarkistamaan omien agenttiesi ohjeiden heikkouksia.
Lue lisää : Jailbreaking