Γλωσσάριο

Βελτιστοποίηση υπερπαραμέτρων

Τι είναι Βελτιστοποίηση υπερπαραμέτρων;

Οι υπερπαράμετροι είναι ρυθμίσεις που ορίζονται πριν από την εκπαίδευση ενός μοντέλου, όπως ο ρυθμός μάθησης, ο αριθμός των στρωμάτων ή η ένταση της κανονικοποίησης. Η βελτιστοποίηση υπερπαραμέτρων αναζητά συστηματικά τον συνδυασμό που αποδίδει καλύτερα σε δεδομένα επικύρωσης, για παράδειγμα με αναζήτηση πλέγματος (grid search), τυχαία αναζήτηση ή Bayesian βελτιστοποίηση. Οι σωστά επιλεγμένες τιμές βελτιώνουν την ακρίβεια και μειώνουν την υπερ- ή υποπροσαρμογή, αλλά η αναζήτηση κοστίζει υπολογιστικό χρόνο.

Πώς βοηθά το KI.ordo

Το KI.ordo δεν εκπαιδεύει μοντέλα· ένα συγγενές χειριστήριο είναι το ρυθμιστικό «Θερμοκρασία» των πρακτόρων, μια ρύθμιση χρόνου εκτέλεσης που καθορίζει πόσο ποικίλες είναι οι απαντήσεις.

Μάθετε περισσότερα

Θέματα

Training
ποιότητα μοντέλου
Tuning

Δοκιμάστε το KI.ordo

Πράκτορες, ροές εργασιών και πρότυπα σε έναν χώρο εργασίας – δωρεάν επίδειξη 24 ωρών.

Έναρξη επίδειξης

← Όλοι οι όροι

Σχετικοί όροι

Overfitting

Η υπερπροσαρμογή (overfitting) προκύπτει όταν ένα μοντέλο απομνημονεύει τα δεδομένα εκπαίδευσης, συμπεριλαμβανομένων τυχαίων ιδιομορφιών και θορύβου, αντί να συλλαμβάνει γενικά ισχύοντα πρότυπα. Τότε φαίνεται πολύ ακριβές στα γνωστά δεδομένα, αλλά αποδίδει άσχημα σε νέα. Ένα μεγάλο χάσμα ανάμεσα στο σφάλμα εκπαίδευσης και δοκιμής είναι τυπική ένδειξη. Τα αντίμετρα περιλαμβάνουν περισσότερα ή πιο ποικίλα δεδομένα, απλούστερα μοντέλα, κανονικοποίηση, dropout και διασταυρούμενη επικύρωση.

ποιότητα μοντέλου
εκπαίδευση
+1

Διασταυρούμενη επικύρωση (cross-validation)

Η διασταυρούμενη επικύρωση (cross-validation) είναι μια μέθοδος για τον έλεγχο του πόσο καλά γενικεύει ένα μοντέλο σε νέα, άγνωστα δεδομένα. Στη διασταυρούμενη επικύρωση k διπλώσεων, τα δεδομένα χωρίζονται σε k μέρη· το μοντέλο εκπαιδεύεται k φορές σε k−1 μέρη και δοκιμάζεται κάθε φορά στο υπόλοιπο μέρος, και στη συνέχεια υπολογίζεται ο μέσος όρος των αποτελεσμάτων. Αυτό βοηθά να εντοπίζεται η υπερπροσαρμογή και να συγκρίνονται δίκαια μοντέλα ή ρυθμίσεις, ιδίως όταν υπάρχουν λίγα δεδομένα.

Αξιολόγηση μοντέλων
επικύρωση
+1

Μηχανική μάθηση

Η μηχανική μάθηση είναι ένας κλάδος της τεχνητής νοημοσύνης στον οποίο οι υπολογιστές εξάγουν μοτίβα από δεδομένα αντί να προγραμματίζεται ρητά κάθε κανόνας. Ανάλογα με την εργασία, τα μοντέλα μαθαίνουν από επισημασμένα παραδείγματα (εποπτευόμενη), από μη επισημασμένα δεδομένα (μη εποπτευόμενη) ή μέσω ανταμοιβών (ενισχυτική). Οι εφαρμογές κυμαίνονται από φίλτρα ανεπιθύμητης αλληλογραφίας και προβλέψεις ζήτησης έως προτάσεις προϊόντων. Η ποιότητα εξαρτάται σε μεγάλο βαθμό από την ποσότητα και την ποιότητα των δεδομένων εκπαίδευσης.

βασικές έννοιες
ΤΝ
+1

Κανονικοποίηση

Η κανονικοποίηση (regularisation) καλύπτει τεχνικές που εμποδίζουν ένα μοντέλο να προσαρμοστεί υπερβολικά στενά στα δεδομένα εκπαίδευσής του κατά την εκπαίδευση (υπερπροσαρμογή). Παραδείγματα είναι η επιβολή ποινής σε μεγάλα βάρη (κανονικοποίηση L1 ή L2), η τυχαία απενεργοποίηση νευρώνων (dropout) ή η διακοπή της εκπαίδευσης στη σωστή στιγμή (early stopping). Στόχος είναι ένα απλούστερο μοντέλο που αποδίδει πιο αξιόπιστα σε νέα, άγνωστα δεδομένα, ακόμη κι αν σημειώνει ελαφρώς χαμηλότερη βαθμολογία στα δεδομένα εκπαίδευσης.

εκπαίδευση
υπερπροσαρμογή
+1