EL
ΣύνδεσηΞεκινήστε τώρα
Γλωσσάριο

OWASP LLM Top 10

Τι είναι OWASP LLM Top 10;

Το OWASP Top 10 για εφαρμογές LLM είναι μια λίστα με τους σημαντικότερους κινδύνους ασφάλειας σε εφαρμογές που βασίζονται σε μεγάλα γλωσσικά μοντέλα, η οποία δημοσιεύεται από το OWASP GenAI Security Project. Η τρέχουσα έκδοση του 2026 εμφανίστηκε τον Αύγουστο του 2026 (κατάσταση Οκτωβρίου 2026) και καλύπτει: prompt injection, αποκάλυψη ευαίσθητων πληροφοριών, υπερβολική αυτονομία, αλυσίδα εφοδιασμού, δηλητηρίαση δεδομένων και μοντέλων, απεριόριστη κατανάλωση, παραπληροφόρηση, έκθεση κρυφού πλαισίου, αδυναμίες διανυσμάτων και embeddings, και ακατάλληλο χειρισμό εξόδου. Χρησιμεύει ως λίστα ελέγχου για την ανάπτυξη και τους ελέγχους.

Πώς βοηθά το KI.ordo

Το πρότυπο «Έλεγχος ασφάλειας chatbot» του KI.ordo αξιολογεί τις οδηγίες και τα δείγματα συνομιλιών ενός πράκτορα σε σχέση με τους τομείς κινδύνου του OWASP Top 10 για εφαρμογές LLM.

Μάθετε περισσότερα : OWASP LLM Top 10

Σχετικά πρότυπα

Θέματα

  • ασφάλεια
  • πρότυπο
  • έλεγχος

Δοκιμάστε το KI.ordo

Πράκτορες, ροές εργασιών και πρότυπα σε έναν χώρο εργασίας – δωρεάν επίδειξη 24 ωρών.

Έναρξη επίδειξης
← Όλοι οι όροι

Σχετικοί όροι

ασφάλεια LLM

Η ασφάλεια LLM καλύπτει όλα τα μέτρα που προστατεύουν εφαρμογές βασισμένες σε μεγάλα γλωσσικά μοντέλα από κατάχρηση, διαρροή δεδομένων και ανεπιθύμητη συμπεριφορά. Τυπικοί κίνδυνοι περιλαμβάνουν prompt injection, αποκάλυψη εμπιστευτικών οδηγιών ή δεδομένων και πράκτορες με υπερβολικά δικαιώματα. Η προστασία προέρχεται από πολλαπλά επίπεδα: σαφείς οδηγίες, περιορισμένα δικαιώματα, έλεγχοι εισόδων και εξόδων, τείχη προστασίας ΤΝ, red teaming και τακτικοί έλεγχοι.

  • ασφάλεια
  • γλωσσικά μοντέλα
  • +1
Πρότυπο

Έμμεση prompt injection

Στην έμμεση prompt injection, οι χειριστικές οδηγίες δεν βρίσκονται στην είσοδο του χρήστη αλλά κρύβονται σε περιεχόμενο που επεξεργάζεται ένα σύστημα ΤΝ στην πορεία, όπως ιστοσελίδες, email ή έγγραφα. Όταν ένας πράκτορας διαβάζει τέτοιο περιεχόμενο, μπορεί να εκλάβει κρυφές εντολές ως γνήσιες εργασίες και, για παράδειγμα, να αποκαλύψει δεδομένα. Τα μέτρα προστασίας περιλαμβάνουν την αντιμετώπιση του εξωτερικού περιεχομένου αυστηρά ως δεδομένων, τον περιορισμό των δικαιωμάτων, τον έλεγχο των εισόδων και την απαίτηση ανθρώπινης έγκρισης για κρίσιμες ενέργειες.

  • Ασφάλεια
  • prompt injection
  • +1
Πρότυπο

Έλεγχος ασφαλείας chatbot

Ένας έλεγχος ασφαλείας chatbot είναι μια δομημένη εξέταση του κατά πόσον ένα chatbot ΤΝ προστατεύει επαρκώς εμπιστευτικά δεδομένα, τις εσωτερικές του οδηγίες και τα δικαιώματά του να ενεργεί. Εξετάζει, μεταξύ άλλων, την ευαλωτότητα σε prompt injection, την ακούσια αποκάλυψη πληροφοριών και την υπερβολικά ευρεία πρόσβαση σε εργαλεία – συχνά με βάση το OWASP Top 10 για εφαρμογές LLM. Το αποτέλεσμα είναι μια έκθεση με αξιολόγηση ανά τομέα κινδύνου και συγκεκριμένα μέτρα.

  • ασφάλεια
  • έλεγχος
  • +1
Πρότυπο

Διαρροή prompt

Η διαρροή prompt (prompt leaking) αναφέρεται στην ακούσια αποκάλυψη των εσωτερικών οδηγιών ενός συστήματος ΤΝ, για παράδειγμα όταν ένα chatbot αποκαλύπτει το system prompt του ως απάντηση σε ένα έξυπνα διατυπωμένο αίτημα. Αυτό γίνεται πρόβλημα αν οι οδηγίες περιέχουν επιχειρησιακή λογική, εσωτερικές πληροφορίες ή ακόμη και διαπιστευτήρια. Η λίστα του OWASP για εφαρμογές LLM κατονομάζει ρητά αυτόν τον κίνδυνο. Η αποτελεσματικότερη προφύλαξη είναι να γράφετε τις οδηγίες σαν να μπορούσαν να γίνουν δημόσιες, να μην αποθηκεύετε ποτέ μυστικά σε αυτές και να ελέγχετε και τα αποτελέσματα.

  • Ασφάλεια ΤΝ
  • system prompt
  • +1
Πρότυπο