Γλωσσάριο

Συνταγματική ΤΝ (Constitutional AI)

Τι είναι Συνταγματική ΤΝ (Constitutional AI);

Η συνταγματική ΤΝ (Constitutional AI) είναι μια μέθοδος εκπαίδευσης γλωσσικών μοντέλων που δημοσιεύτηκε από την Anthropic το 2022· δεν έχει καμία σχέση με το συνταγματικό δίκαιο. Βασίζεται σε ένα γραπτό σύνολο αρχών, το «σύνταγμα»: το μοντέλο ασκεί κριτική και αναθεωρεί τις δικές του απαντήσεις με βάση αυτές τις αρχές, στη συνέχεια μια ΤΝ συγκρίνει ζεύγη απαντήσεων και αυτή η ανατροφοδότηση χρησιμεύει ως σήμα ανταμοιβής για ενισχυτική μάθηση (RLAIF). Έτσι μειώνεται η ανάγκη ανθρώπινης επισήμανσης επιβλαβούς περιεχομένου· τον Ιανουάριο του 2026 η Anthropic δημοσίευσε ένα αναθεωρημένο σύνταγμα για το Claude.

Πώς βοηθά το KI.ordo

Τα μοντέλα Claude της Anthropic που χρησιμοποιούνται στο KI.ordo εκπαιδεύονται, μεταξύ άλλων, με αυτή τη μέθοδο.

Θέματα

Training
ασφάλεια ΤΝ
Anthropic

Δοκιμάστε το KI.ordo

Πράκτορες, ροές εργασιών και πρότυπα σε έναν χώρο εργασίας – δωρεάν επίδειξη 24 ωρών.

Έναρξη επίδειξης

← Όλοι οι όροι

Σχετικοί όροι

Ενισχυτική μάθηση από ανθρώπινη ανατροφοδότηση (RLHF)

Το RLHF είναι μια μέθοδος εκπαίδευσης που κάνει τα γλωσσικά μοντέλα πιο χρήσιμα και πιο ασφαλή. Άνθρωποι συγκρίνουν και βαθμολογούν περισσότερες απαντήσεις του μοντέλου· αυτές οι κρίσεις χρησιμοποιούνται για την εκπαίδευση ενός μοντέλου ανταμοιβής, το οποίο στη συνέχεια εκπαιδεύει περαιτέρω το ίδιο το γλωσσικό μοντέλο μέσω ενισχυτικής μάθησης. Έτσι διδάσκεται, για παράδειγμα, να απαντά πιο σαφώς ή να αρνείται προβληματικά αιτήματα. Το RLHF πραγματοποιείται στον πάροχο του μοντέλου πριν από την κυκλοφορία του – όχι με μεμονωμένους χρήστες.

εκπαίδευση
ανθρώπινη ανατροφοδότηση
+1

Claude

Το Claude είναι μια οικογένεια μεγάλων γλωσσικών μοντέλων της αμερικανικής εταιρείας ΤΝ Anthropic. Τα μοντέλα κατανοούν και γράφουν κείμενο σε πολλές γλώσσες, αναλύουν έγγραφα, γράφουν κώδικα και μπορούν να χρησιμοποιούν εργαλεία, για παράδειγμα για έρευνα ή αυτοματοποίηση. Πιο γνωστές είναι οι οικογένειες μοντέλων Haiku, Sonnet και Opus, που διαφέρουν ως προς την ταχύτητα, το κόστος και τις δυνατότητες. Η Anthropic δίνει ιδιαίτερη έμφαση στην ασφάλεια και στην αξιόπιστη συμπεριφορά των μοντέλων.

Anthropic
γλωσσικό μοντέλο
+1

Ηθική της ΤΝ

Η ηθική της ΤΝ ασχολείται με τα ηθικά ζητήματα γύρω από την ανάπτυξη και τη χρήση της ΤΝ: δικαιοσύνη και διακρίσεις, διαφάνεια και επεξηγησιμότητα, προστασία δεδομένων, ευθύνη για σφάλματα, ασφάλεια και επιπτώσεις στην εργασία και την κοινωνία. Για τους οργανισμούς συγκεκριμενοποιείται σε κατευθυντήριες γραμμές, εκτιμήσεις κινδύνου, ανθρώπινη εποπτεία και ειλικρινή επικοινωνία για τα όρια της ΤΝ. Παράδειγμα: πριν εισαχθεί ένα εργαλείο προσυλλογής βιογραφικών, ελέγχεται αν μειονεκτεί συγκεκριμένες ομάδες.

ηθική
Αρμοδιότητα
+1

ασφάλεια LLM

Η ασφάλεια LLM καλύπτει όλα τα μέτρα που προστατεύουν εφαρμογές βασισμένες σε μεγάλα γλωσσικά μοντέλα από κατάχρηση, διαρροή δεδομένων και ανεπιθύμητη συμπεριφορά. Τυπικοί κίνδυνοι περιλαμβάνουν prompt injection, αποκάλυψη εμπιστευτικών οδηγιών ή δεδομένων και πράκτορες με υπερβολικά δικαιώματα. Η προστασία προέρχεται από πολλαπλά επίπεδα: σαφείς οδηγίες, περιορισμένα δικαιώματα, έλεγχοι εισόδων και εξόδων, τείχη προστασίας ΤΝ, red teaming και τακτικοί έλεγχοι.

ασφάλεια
γλωσσικά μοντέλα
+1

Πρότυπο