Γλωσσάριο

βελτιστοποίηση (fine-tuning)

Τι είναι βελτιστοποίηση (fine-tuning);

Η βελτιστοποίηση (fine-tuning) σημαίνει τη συνέχιση της εκπαίδευσης ενός ήδη προεκπαιδευμένου μοντέλου ΤΝ με πρόσθετα, συνήθως ειδικά για την εργασία δεδομένα. Τα εσωτερικά του βάρη προσαρμόζονται ώστε το μοντέλο να χειρίζεται πιο αξιόπιστα, για παράδειγμα, ένα συγκεκριμένο ύφος γραφής, εξειδικευμένο λεξιλόγιο ή μορφή εξόδου. Η βελτιστοποίηση απαιτεί προσεκτικά προετοιμασμένα δεδομένα-παραδείγματα, υπολογιστική ισχύ και δοκιμές. Για πολλές εφαρμογές αρκούν καλογραμμένες οδηγίες και συνδεδεμένη γνώση, που είναι και ευκολότερο να αλλαχθούν.

Πώς βοηθά το KI.ordo

Το KI.ordo δεν επανεκπαιδεύει μοντέλα· προσαρμόζει τους πράκτορες μέσω οδηγιών και της δικής σας γνώσης, ώστε οι αλλαγές να ισχύουν άμεσα.

Μάθετε περισσότερα

Θέματα

εκπαίδευση μοντέλου
Προσαρμογή
γλωσσικά μοντέλα

Δοκιμάστε το KI.ordo

Πράκτορες, ροές εργασιών και πρότυπα σε έναν χώρο εργασίας – δωρεάν επίδειξη 24 ωρών.

Έναρξη επίδειξης

← Όλοι οι όροι

Σχετικοί όροι

Παραμετρικά αποδοτική τελειοποίηση (PEFT)

Η παραμετρικά αποδοτική τελειοποίηση (PEFT) καλύπτει τεχνικές που προσαρμόζουν ένα μεγάλο προεκπαιδευμένο μοντέλο σε μια εργασία, εκπαιδεύοντας μόνο ένα μικρό μέρος των παραμέτρων του ή προσθέτοντας λίγες επιπλέον. Γνωστές μέθοδοι είναι οι LoRA, QLoRA, adapters και prefix tuning. Έτσι μειώνονται σημαντικά οι απαιτήσεις σε υπολογιστική ισχύ και μνήμη, και μικρές πρόσθετες μονάδες μπορούν να αποθηκεύονται για διάφορες εργασίες αντί για πλήρη αντίγραφα του μοντέλου. Παράδειγμα: ένα γλωσσικό μοντέλο προσαρμόζεται στο ύφος εσωτερικών τεχνικών εγγράφων.

τελειοποίηση
εκπαίδευση
+1

Instruction Tuning

Το instruction tuning είναι μια μορφή βελτιστοποίησης (fine-tuning) κατά την οποία ένα προεκπαιδευμένο γλωσσικό μοντέλο εκπαιδεύεται περαιτέρω με πολλά ζεύγη οδηγιών και επιθυμητών απαντήσεων. Έτσι το μοντέλο μαθαίνει να εκτελεί εργασίες διατυπωμένες σε φυσική γλώσσα αντί να συνεχίζει απλώς ένα κείμενο. Είναι βασικό βήμα για τη μετατροπή ενός βασικού μοντέλου σε βοηθό και συχνά συνδυάζεται με μεθόδους όπως το RLHF. Παράδειγμα: η εντολή «Συνοψίστε αυτό το κείμενο σε τρεις προτάσεις» εκτελείται αξιόπιστα.

βελτιστοποίηση (fine-tuning)
γλωσσικά μοντέλα
+1

Transfer Learning

Στη μεταφερόμενη μάθηση (transfer learning), ένα μοντέλο που έχει ήδη μάθει μια μεγάλη γενική εργασία χρησιμεύει ως σημείο εκκίνησης για ένα νέο, εξειδικευμένο. Αντί να ξεκινά από το μηδέν, προσαρμόζεται, για παράδειγμα μέσω τελειοποίησης, με συγκριτικά λίγα δικά σας δεδομένα. Αυτό εξοικονομεί υπολογιστικό χρόνο και δεδομένα, για παράδειγμα όταν ένα γενικό μοντέλο εικόνας πρέπει να μάθει να εντοπίζει ελαττώματα παραγωγής σε φωτογραφίες.

Μηχανική μάθηση
Training
+1

Παραγωγή με ενίσχυση ανάκτησης (RAG)

Η παραγωγή με ενίσχυση ανάκτησης συνδυάζει την αναζήτηση με την παραγωγή κειμένου: πριν απαντήσει, το σύστημα αναζητά σε μια συλλογή γνώσης – όπως εγχειρίδια, πολιτικές ή συχνές ερωτήσεις – σχετικά αποσπάσματα και τα μεταβιβάζει στο γλωσσικό μοντέλο ως πλαίσιο. Έτσι η απάντηση βασίζεται σε επίκαιρο περιεχόμενο ειδικό για την εταιρεία και όχι μόνο στις γνώσεις εκπαίδευσης του μοντέλου. Αυτό μειώνει τους επινοημένους ισχυρισμούς, κάνει τις πηγές ανιχνεύσιμες και επιτρέπει ενημερώσεις χωρίς επανεκπαίδευση.

RAG
αναζήτηση γνώσης
+1