Τι είναι Τείχος προστασίας ΤΝ;
Ένα τείχος προστασίας ΤΝ είναι ένα προστατευτικό επίπεδο μεταξύ χρηστών, πηγών δεδομένων και ενός μοντέλου ΤΝ. Ελέγχει τις εισόδους για απόπειρες χειραγώγησης, όπως prompt injection ή jailbreaks, και ελέγχει τις εξόδους, για παράδειγμα για εμπιστευτικά δεδομένα ή ανεπιθύμητο περιεχόμενο, πριν τις προωθήσει. Μπορεί να χρησιμοποιεί κανόνες, μοντέλα ταξινόμησης ή ένα δεύτερο γλωσσικό μοντέλο. Ένα τείχος προστασίας ΤΝ μειώνει τον κίνδυνο αλλά δεν προσφέρει πλήρη προστασία και δεν αντικαθιστά ούτε τα περιορισμένα δικαιώματα ούτε τις δοκιμές.
Πώς βοηθά το KI.ordo
Το KI.ordo προσφέρει ένα έτοιμο πρότυπο τείχους προστασίας ΤΝ, το οποίο ταξινομεί τις εισόδους ως αβλαβείς ή ύποπτες και μπορεί να τοποθετηθεί μπροστά από έναν πράκτορα ως υπο-ροή.
Μάθετε περισσότερα : Τείχος προστασίας ΤΝ