Kas yra LLM sauga?
LLM sauga apima visas priemones, saugančias didelių kalbos modelių pagrindu sukurtas programas nuo piktnaudžiavimo, duomenų nutekėjimo ir nepageidaujamo elgesio. Tipinė rizika: užklausos injekcija, konfidencialių nurodymų ar duomenų atskleidimas ir agentai su pernelyg dideliais leidimais. Apsauga kyla iš kelių sluoksnių: aiškių nurodymų, apribotų teisių, įvesties ir išvesties patikrų, DI ugniasienių, red teaming ir reguliarių auditų.
Kaip padeda KI.ordo
KI.ordo vaidmenys nuo peržiūrėtojo iki savininko nustato, kas gali keisti agentus ir žinias, pakeitimų žurnalas leidžia atsekti redagavimus, o pokalbių roboto saugumo audito šablonas padeda atlikti peržiūras.
Sužinoti daugiau : LLM sauga