Γλωσσάριο

Σύγκλιση

Τι είναι Σύγκλιση;

Στη μηχανική μάθηση, σύγκλιση σημαίνει ότι μια διαδικασία εκπαίδευσης πλησιάζει σε μια σταθερή κατάσταση: η απώλεια μειώνεται πια ελάχιστα και οι παράμετροι του μοντέλου αλλάζουν μόνο οριακά. Το κατά πόσον και πόσο γρήγορα συγκλίνει ένα μοντέλο εξαρτάται από παράγοντες όπως ο ρυθμός μάθησης, η ποιότητα των δεδομένων και η αρχιτεκτονική του μοντέλου. Αν ο ρυθμός μάθησης είναι πολύ υψηλός, η απώλεια αναπηδά· αν είναι πολύ χαμηλός, η εκπαίδευση διαρκεί άσκοπα πολύ. Η σύγκλιση δεν εγγυάται ένα καλό μοντέλο, καθώς μπορεί να είναι ακόμη υπερπροσαρμοσμένο.

Θέματα

Training
βελτιστοποίηση
Μηχανική μάθηση

Δοκιμάστε το KI.ordo

Πράκτορες, ροές εργασιών και πρότυπα σε έναν χώρο εργασίας – δωρεάν επίδειξη 24 ωρών.

Έναρξη επίδειξης

← Όλοι οι όροι

Σχετικοί όροι

Καθοδική κλίση (gradient descent)

Η καθοδική κλίση (gradient descent) είναι η μέθοδος βελτιστοποίησης με την οποία εκπαιδεύονται τα περισσότερα μοντέλα ΤΝ. Μετράτε πόσο μεγάλο είναι το σφάλμα του μοντέλου, υπολογίζετε προς ποια κατεύθυνση πρέπει να αλλάξουν οι παράμετροι για να μειωθεί και κάνετε ένα μικρό βήμα προς αυτή την κατεύθυνση – ξανά και ξανά. Είναι σαν έναν πεζοπόρο μέσα στην ομίχλη που συνεχίζει να κατηφορίζει για να φτάσει στην κοιλάδα. Το μέγεθος του βήματος (ρυθμός μάθησης) καθορίζει την ταχύτητα και τη σταθερότητα.

βελτιστοποίηση
εκπαίδευση μοντέλου
+1

Καμπύλη μάθησης

Στη μηχανική μάθηση, η καμπύλη μάθησης είναι ένα γράφημα που δείχνει την απόδοση ή το σφάλμα ενός μοντέλου ανά χρόνο εκπαίδευσης ή ανά όγκο δεδομένων εκπαίδευσης, συνήθως χωριστά για τα δεδομένα εκπαίδευσης και επικύρωσης. Το σχήμα της αποκαλύπτει αν ένα μοντέλο υποπροσαρμόζεται ή υπερπροσαρμόζεται και αν περισσότερα δεδομένα είναι πιθανό να βοηθήσουν. Αν, για παράδειγμα, το σφάλμα επικύρωσης παραμένει πολύ πάνω από το σφάλμα εκπαίδευσης, αυτό υποδεικνύει υπερπροσαρμογή. Στην καθημερινή γλώσσα, ο όρος περιγράφει επίσης πόσο γρήγορα οι άνθρωποι κατακτούν μια νέα τεχνολογία.

Training
Αξιολόγηση μοντέλων
+1

Σφάλμα εκπαίδευσης

Το σφάλμα εκπαίδευσης δείχνει κατά πόσο αποκλίνουν οι προβλέψεις ενός μοντέλου από τις σωστές τιμές ακριβώς στα δεδομένα στα οποία εκπαιδεύτηκε. Από μόνο του λέει λίγα: σημασία έχει η σύγκριση με το σφάλμα γενίκευσης σε νέα δεδομένα. Ένα υψηλό σφάλμα εκπαίδευσης υποδεικνύει υποπροσαρμογή· ένα πολύ χαμηλό σφάλμα εκπαίδευσης σε συνδυασμό με υψηλό σφάλμα στα δεδομένα δοκιμής συνήθως σηματοδοτεί υπερπροσαρμογή.

Μηχανική μάθηση
Αξιολόγηση
+1

Βελτιστοποίηση υπερπαραμέτρων

Οι υπερπαράμετροι είναι ρυθμίσεις που ορίζονται πριν από την εκπαίδευση ενός μοντέλου, όπως ο ρυθμός μάθησης, ο αριθμός των στρωμάτων ή η ένταση της κανονικοποίησης. Η βελτιστοποίηση υπερπαραμέτρων αναζητά συστηματικά τον συνδυασμό που αποδίδει καλύτερα σε δεδομένα επικύρωσης, για παράδειγμα με αναζήτηση πλέγματος (grid search), τυχαία αναζήτηση ή Bayesian βελτιστοποίηση. Οι σωστά επιλεγμένες τιμές βελτιώνουν την ακρίβεια και μειώνουν την υπερ- ή υποπροσαρμογή, αλλά η αναζήτηση κοστίζει υπολογιστικό χρόνο.

Training
ποιότητα μοντέλου
+1