EL
ΣύνδεσηΞεκινήστε τώρα
Γλωσσάριο

Έμμεση prompt injection

Τι είναι Έμμεση prompt injection;

Στην έμμεση prompt injection, οι χειριστικές οδηγίες δεν βρίσκονται στην είσοδο του χρήστη αλλά κρύβονται σε περιεχόμενο που επεξεργάζεται ένα σύστημα ΤΝ στην πορεία, όπως ιστοσελίδες, email ή έγγραφα. Όταν ένας πράκτορας διαβάζει τέτοιο περιεχόμενο, μπορεί να εκλάβει κρυφές εντολές ως γνήσιες εργασίες και, για παράδειγμα, να αποκαλύψει δεδομένα. Τα μέτρα προστασίας περιλαμβάνουν την αντιμετώπιση του εξωτερικού περιεχομένου αυστηρά ως δεδομένων, τον περιορισμό των δικαιωμάτων, τον έλεγχο των εισόδων και την απαίτηση ανθρώπινης έγκρισης για κρίσιμες ενέργειες.

Πώς βοηθά το KI.ordo

Το KI.ordo προσφέρει ένα έτοιμο πρότυπο τείχους προστασίας ΤΝ, το οποίο μπορεί να τοποθετηθεί μπροστά από έναν πράκτορα ως πρόσθετο επίπεδο ελέγχου, για παράδειγμα όταν περιεχόμενο φτάνει μέσω του εργαλείου ανάγνωσης ιστοσελίδων.

Μάθετε περισσότερα : Έμμεση prompt injection

Σχετικά πρότυπα

Θέματα

  • Ασφάλεια
  • prompt injection
  • πράκτορες

Δοκιμάστε το KI.ordo

Πράκτορες, ροές εργασιών και πρότυπα σε έναν χώρο εργασίας – δωρεάν επίδειξη 24 ωρών.

Έναρξη επίδειξης
← Όλοι οι όροι

Σχετικοί όροι

Τείχος προστασίας ΤΝ

Ένα τείχος προστασίας ΤΝ είναι ένα προστατευτικό επίπεδο μεταξύ χρηστών, πηγών δεδομένων και ενός μοντέλου ΤΝ. Ελέγχει τις εισόδους για απόπειρες χειραγώγησης, όπως prompt injection ή jailbreaks, και ελέγχει τις εξόδους, για παράδειγμα για εμπιστευτικά δεδομένα ή ανεπιθύμητο περιεχόμενο, πριν τις προωθήσει. Μπορεί να χρησιμοποιεί κανόνες, μοντέλα ταξινόμησης ή ένα δεύτερο γλωσσικό μοντέλο. Ένα τείχος προστασίας ΤΝ μειώνει τον κίνδυνο αλλά δεν προσφέρει πλήρη προστασία και δεν αντικαθιστά ούτε τα περιορισμένα δικαιώματα ούτε τις δοκιμές.

  • Ασφάλεια
  • prompt injection
  • +1
Πρότυπο

Jailbreaking

Το jailbreaking αναφέρεται σε απόπειρες παράκαμψης των κανόνων ασφαλείας ενός μοντέλου ΤΝ μέσω έξυπνα διατυπωμένων εισόδων, ώστε να παράγει περιεχόμενο ή να προβαίνει σε ενέργειες που υποτίθεται ότι αρνείται. Για τους οργανισμούς αυτό αποτελεί κίνδυνο, επειδή ένα chatbot θα μπορούσε, για παράδειγμα, να αποκαλύψει εμπιστευτικές οδηγίες ή να απαντήσει ανάρμοστα. Μέτρα προστασίας είναι σαφείς οδηγίες συστήματος, έλεγχος εισόδων και εξόδων, περιορισμένα δικαιώματα, καταγραφή και τακτικές δοκιμές ασφάλειας (red teaming).

  • Ασφάλεια
  • πρόληψη κατάχρησης
  • +1
Πρότυπο

ασφάλεια LLM

Η ασφάλεια LLM καλύπτει όλα τα μέτρα που προστατεύουν εφαρμογές βασισμένες σε μεγάλα γλωσσικά μοντέλα από κατάχρηση, διαρροή δεδομένων και ανεπιθύμητη συμπεριφορά. Τυπικοί κίνδυνοι περιλαμβάνουν prompt injection, αποκάλυψη εμπιστευτικών οδηγιών ή δεδομένων και πράκτορες με υπερβολικά δικαιώματα. Η προστασία προέρχεται από πολλαπλά επίπεδα: σαφείς οδηγίες, περιορισμένα δικαιώματα, έλεγχοι εισόδων και εξόδων, τείχη προστασίας ΤΝ, red teaming και τακτικοί έλεγχοι.

  • ασφάλεια
  • γλωσσικά μοντέλα
  • +1
Πρότυπο

OWASP LLM Top 10

Το OWASP Top 10 για εφαρμογές LLM είναι μια λίστα με τους σημαντικότερους κινδύνους ασφάλειας σε εφαρμογές που βασίζονται σε μεγάλα γλωσσικά μοντέλα, η οποία δημοσιεύεται από το OWASP GenAI Security Project. Η τρέχουσα έκδοση του 2026 εμφανίστηκε τον Αύγουστο του 2026 (κατάσταση Οκτωβρίου 2026) και καλύπτει: prompt injection, αποκάλυψη ευαίσθητων πληροφοριών, υπερβολική αυτονομία, αλυσίδα εφοδιασμού, δηλητηρίαση δεδομένων και μοντέλων, απεριόριστη κατανάλωση, παραπληροφόρηση, έκθεση κρυφού πλαισίου, αδυναμίες διανυσμάτων και embeddings, και ακατάλληλο χειρισμό εξόδου. Χρησιμεύει ως λίστα ελέγχου για την ανάπτυξη και τους ελέγχους.

  • ασφάλεια
  • πρότυπο
  • +1
Πρότυπο