Vad är Token Smuggling?
Token smuggling är en form av jailbreaking där oönskade instruktioner förklädas, till exempel delas upp i fragment, kodas om eller skrivs med tecken som ser likadana ut som andra, så att enkla nyckelordsfilter missar dem medan språkmodellen ändå förstår deras innebörd. Skydd är bland annat att normalisera indata innan de bedöms, innehållsbaserade snarare än rent ordbaserade kontroller, granskning av utdata och att ge AI-agenter så få behörigheter som möjligt.
Så hjälper KI.ordo
Mallen ”AI-brandvägg: kontrollera indata” i KI.ordo låter misstänkta indata bedömas utifrån sitt innehåll innan de når en agent och blockerar dem vid behov.
Läs mer : Token Smuggling