TI küberturvalisuses on kaht külge. Ühelt poolt aitavad TI-võtted rünnakuid kiiremini avastada, näiteks märkides anomaaliaid võrguliikluses, kahtlaseid sisselogimisi või andmepüügi e-kirju, ja vabastavad turvameeskondi hoiatuste sorteerimisest. Teiselt poolt tuleb kaitsta ka TI-süsteeme endid, näiteks prompt injection'i või andmelekke eest. TI on siin tõhus ainult koos selgete protsesside, ajakohaste süsteemide ja koolitatud inimestega.
Anomaaliate tuvastamine leiab andmepunkte, sündmusi või mustreid, mis erinevad normist märgatavalt. Need võivad olla ebatavaliselt suured tehingud, äkilised hüpped andurinäitudes, topeltkirjed või kahtlane võrgutegevus. Seda kasutatakse rahanduses, IT-turbes, tootmises ja kvaliteedikontrollis. Meetodid ulatuvad lihtsatest statistilistest lävenditest õppivate mudeliteni; tabamused on viited, mida peaks hindama inimene.
LLM-i turvalisus hõlmab kõiki meetmeid, mis kaitsevad suurtel keelemudelitel põhinevaid rakendusi väärkasutuse, andmelekke ja soovimatu käitumise eest. Tüüpilised riskid on prompt injection, konfidentsiaalsete juhiste või andmete avaldamine ning liiga laiade õigustega agendid. Kaitse tuleneb mitmest kihist: selged juhised, piiratud õigused, sisendite ja väljundite kontroll, TI tulemüürid, red teaming ja regulaarsed auditid.
TI läbitungimistest (penetration test) on tellitud kontrollitud turvahindamine, kus spetsialistid uurivad TI-süsteemi tahtlikult nõrkuste suhtes, nagu prompt injection, konfidentsiaalsete andmete leke või liiga laiade õigustega agent. Erinevalt laiemast red teamingust keskendub see selgelt piiritletud mahule koos dokumenteeritud leidude ja lahendustega. Seda tasub teha enne vestlusroboti kasutuselevõttu ja pärast suuremaid muudatusi.
TI punane meeskond (red teaming) on TI-süsteemi struktureeritud uurimine võimalike ründajate või väärkasutuse vaatenurgast. Spetsialistid testivad kontrollitud viisil, kas vestlusrobot paljastab konfidentsiaalseid juhiseid, kas seda saab suunata soovimatule käitumisele, kas see annab valefakte või paljastab andmeid. Leiud aitavad parandada juhiseid, filtreid ja õigusi. Vestlusroboti turvaaudit on kergem vorm: see hindab seadistust ja näidisvestlusi teadaolevate riskivaldkondade, nagu OWASP Top 10 for LLM Applications, alusel.
