Γλωσσάριο

Instruction Tuning

Τι είναι Instruction Tuning;

Το instruction tuning είναι μια μορφή βελτιστοποίησης (fine-tuning) κατά την οποία ένα προεκπαιδευμένο γλωσσικό μοντέλο εκπαιδεύεται περαιτέρω με πολλά ζεύγη οδηγιών και επιθυμητών απαντήσεων. Έτσι το μοντέλο μαθαίνει να εκτελεί εργασίες διατυπωμένες σε φυσική γλώσσα αντί να συνεχίζει απλώς ένα κείμενο. Είναι βασικό βήμα για τη μετατροπή ενός βασικού μοντέλου σε βοηθό και συχνά συνδυάζεται με μεθόδους όπως το RLHF. Παράδειγμα: η εντολή «Συνοψίστε αυτό το κείμενο σε τρεις προτάσεις» εκτελείται αξιόπιστα.

Πώς βοηθά το KI.ordo

Το KI.ordo δεν εκπαιδεύει μοντέλα· χρησιμοποιεί τα μοντέλα Claude της Anthropic, που είναι ήδη εκπαιδευμένα ως βοηθοί, και κατευθύνει τη συμπεριφορά τους μέσω οδηγιών και γνώσης.

Μάθετε περισσότερα

Θέματα

βελτιστοποίηση (fine-tuning)
γλωσσικά μοντέλα
Training

Δοκιμάστε το KI.ordo

Πράκτορες, ροές εργασιών και πρότυπα σε έναν χώρο εργασίας – δωρεάν επίδειξη 24 ωρών.

Έναρξη επίδειξης

← Όλοι οι όροι

Σχετικοί όροι

βελτιστοποίηση (fine-tuning)

Η βελτιστοποίηση (fine-tuning) σημαίνει τη συνέχιση της εκπαίδευσης ενός ήδη προεκπαιδευμένου μοντέλου ΤΝ με πρόσθετα, συνήθως ειδικά για την εργασία δεδομένα. Τα εσωτερικά του βάρη προσαρμόζονται ώστε το μοντέλο να χειρίζεται πιο αξιόπιστα, για παράδειγμα, ένα συγκεκριμένο ύφος γραφής, εξειδικευμένο λεξιλόγιο ή μορφή εξόδου. Η βελτιστοποίηση απαιτεί προσεκτικά προετοιμασμένα δεδομένα-παραδείγματα, υπολογιστική ισχύ και δοκιμές. Για πολλές εφαρμογές αρκούν καλογραμμένες οδηγίες και συνδεδεμένη γνώση, που είναι και ευκολότερο να αλλαχθούν.

εκπαίδευση μοντέλου
Προσαρμογή
+1

Ενισχυτική μάθηση από ανθρώπινη ανατροφοδότηση (RLHF)

Το RLHF είναι μια μέθοδος εκπαίδευσης που κάνει τα γλωσσικά μοντέλα πιο χρήσιμα και πιο ασφαλή. Άνθρωποι συγκρίνουν και βαθμολογούν περισσότερες απαντήσεις του μοντέλου· αυτές οι κρίσεις χρησιμοποιούνται για την εκπαίδευση ενός μοντέλου ανταμοιβής, το οποίο στη συνέχεια εκπαιδεύει περαιτέρω το ίδιο το γλωσσικό μοντέλο μέσω ενισχυτικής μάθησης. Έτσι διδάσκεται, για παράδειγμα, να απαντά πιο σαφώς ή να αρνείται προβληματικά αιτήματα. Το RLHF πραγματοποιείται στον πάροχο του μοντέλου πριν από την κυκλοφορία του – όχι με μεμονωμένους χρήστες.

εκπαίδευση
ανθρώπινη ανατροφοδότηση
+1

Μεγάλο γλωσσικό μοντέλο (LLM)

Ένα μεγάλο γλωσσικό μοντέλο (large language model, LLM) είναι ένα νευρωνικό δίκτυο εκπαιδευμένο σε πολύ μεγάλους όγκους κειμένου, ώστε να μπορεί να κατανοεί και να παράγει γλώσσα. Λειτουργεί υπολογίζοντας, βήμα προς βήμα, το πιθανότερο επόμενο token. Τα LLM γράφουν, συνοψίζουν, μεταφράζουν, απαντούν σε ερωτήσεις και παράγουν κώδικα· γνωστά παραδείγματα είναι τα Claude, GPT, Gemini και Llama. Χωρίς πρόσβαση σε τρέχουσες πηγές, γνωρίζουν μόνο ό,τι υπήρχε στα δεδομένα εκπαίδευσής τους.

γλωσσικά μοντέλα
παραγωγική ΤΝ
+1

Prompt

Το prompt είναι η είσοδος που λέει σε ένα μοντέλο ΤΝ τι να κάνει – μια ερώτηση, μια εργασία ή μια οδηγία, συχνά συμπληρωμένη με πλαίσιο, παραδείγματα και την επιθυμητή μορφή. Η ποιότητα της απάντησης εξαρτάται σε μεγάλο βαθμό από το πόσο σαφές και πλήρες είναι το prompt. Για παράδειγμα, αντί για «Γράψε κάτι για το προϊόν μας», χρησιμοποιήστε «Γράψε τρία σύντομα οφέλη του προϊόντος X για επαγγελματίες τεχνίτες, με αντικειμενικό τόνο».

σχεδιασμός εντολών
είσοδος
+1

Πρότυπο