EL
ΣύνδεσηΞεκινήστε τώρα
Γλωσσάριο

ασφάλεια LLM

Τι είναι ασφάλεια LLM;

Η ασφάλεια LLM καλύπτει όλα τα μέτρα που προστατεύουν εφαρμογές βασισμένες σε μεγάλα γλωσσικά μοντέλα από κατάχρηση, διαρροή δεδομένων και ανεπιθύμητη συμπεριφορά. Τυπικοί κίνδυνοι περιλαμβάνουν prompt injection, αποκάλυψη εμπιστευτικών οδηγιών ή δεδομένων και πράκτορες με υπερβολικά δικαιώματα. Η προστασία προέρχεται από πολλαπλά επίπεδα: σαφείς οδηγίες, περιορισμένα δικαιώματα, έλεγχοι εισόδων και εξόδων, τείχη προστασίας ΤΝ, red teaming και τακτικοί έλεγχοι.

Πώς βοηθά το KI.ordo

Στο KI.ordo, οι ρόλοι από θεατή έως κάτοχο καθορίζουν ποιος μπορεί να αλλάζει πράκτορες και γνώση, ένα ιστορικό αλλαγών διατηρεί τις επεξεργασίες ιχνηλάσιμες και ένα πρότυπο ελέγχου ασφάλειας chatbot υποστηρίζει τους ελέγχους.

Μάθετε περισσότερα : ασφάλεια LLM

Σχετικά πρότυπα

Θέματα

  • ασφάλεια
  • γλωσσικά μοντέλα
  • διαχείριση κινδύνων

Δοκιμάστε το KI.ordo

Πράκτορες, ροές εργασιών και πρότυπα σε έναν χώρο εργασίας – δωρεάν επίδειξη 24 ωρών.

Έναρξη επίδειξης
← Όλοι οι όροι

Σχετικοί όροι

Τείχος προστασίας ΤΝ

Ένα τείχος προστασίας ΤΝ είναι ένα προστατευτικό επίπεδο μεταξύ χρηστών, πηγών δεδομένων και ενός μοντέλου ΤΝ. Ελέγχει τις εισόδους για απόπειρες χειραγώγησης, όπως prompt injection ή jailbreaks, και ελέγχει τις εξόδους, για παράδειγμα για εμπιστευτικά δεδομένα ή ανεπιθύμητο περιεχόμενο, πριν τις προωθήσει. Μπορεί να χρησιμοποιεί κανόνες, μοντέλα ταξινόμησης ή ένα δεύτερο γλωσσικό μοντέλο. Ένα τείχος προστασίας ΤΝ μειώνει τον κίνδυνο αλλά δεν προσφέρει πλήρη προστασία και δεν αντικαθιστά ούτε τα περιορισμένα δικαιώματα ούτε τις δοκιμές.

  • Ασφάλεια
  • prompt injection
  • +1
Πρότυπο

Red teaming ΤΝ

Το red teaming ΤΝ είναι η δομημένη εξέταση ενός συστήματος ΤΝ από την οπτική πιθανών επιτιθέμενων ή κατάχρησης. Ειδικοί ελέγχουν με ελεγχόμενο τρόπο αν ένα chatbot αποκαλύπτει εμπιστευτικές οδηγίες, μπορεί να οδηγηθεί σε ανεπιθύμητη συμπεριφορά, παρέχει ψευδή στοιχεία ή εκθέτει δεδομένα. Τα ευρήματα αξιοποιούνται για καλύτερες οδηγίες, φίλτρα και δικαιώματα. Ο έλεγχος ασφαλείας chatbot είναι μια ελαφρύτερη μορφή: αξιολογεί τη διαμόρφωση και δείγματα συνομιλιών με βάση γνωστούς τομείς κινδύνου, όπως το OWASP Top 10 για εφαρμογές LLM.

  • Ασφάλεια ΤΝ
  • Δοκιμές ασφαλείας
  • +1
Πρότυπο

Έμμεση prompt injection

Στην έμμεση prompt injection, οι χειριστικές οδηγίες δεν βρίσκονται στην είσοδο του χρήστη αλλά κρύβονται σε περιεχόμενο που επεξεργάζεται ένα σύστημα ΤΝ στην πορεία, όπως ιστοσελίδες, email ή έγγραφα. Όταν ένας πράκτορας διαβάζει τέτοιο περιεχόμενο, μπορεί να εκλάβει κρυφές εντολές ως γνήσιες εργασίες και, για παράδειγμα, να αποκαλύψει δεδομένα. Τα μέτρα προστασίας περιλαμβάνουν την αντιμετώπιση του εξωτερικού περιεχομένου αυστηρά ως δεδομένων, τον περιορισμό των δικαιωμάτων, τον έλεγχο των εισόδων και την απαίτηση ανθρώπινης έγκρισης για κρίσιμες ενέργειες.

  • Ασφάλεια
  • prompt injection
  • +1
Πρότυπο

OWASP LLM Top 10

Το OWASP Top 10 για εφαρμογές LLM είναι μια λίστα με τους σημαντικότερους κινδύνους ασφάλειας σε εφαρμογές που βασίζονται σε μεγάλα γλωσσικά μοντέλα, η οποία δημοσιεύεται από το OWASP GenAI Security Project. Η τρέχουσα έκδοση του 2026 εμφανίστηκε τον Αύγουστο του 2026 (κατάσταση Οκτωβρίου 2026) και καλύπτει: prompt injection, αποκάλυψη ευαίσθητων πληροφοριών, υπερβολική αυτονομία, αλυσίδα εφοδιασμού, δηλητηρίαση δεδομένων και μοντέλων, απεριόριστη κατανάλωση, παραπληροφόρηση, έκθεση κρυφού πλαισίου, αδυναμίες διανυσμάτων και embeddings, και ακατάλληλο χειρισμό εξόδου. Χρησιμεύει ως λίστα ελέγχου για την ανάπτυξη και τους ελέγχους.

  • ασφάλεια
  • πρότυπο
  • +1
Πρότυπο