Γλωσσάριο

XGBoost

Τι είναι XGBoost;

Το XGBoost (Extreme Gradient Boosting) είναι μια βιβλιοθήκη ανοικτού κώδικα που υλοποιεί την ενίσχυση κλίσης (gradient boosting) με δέντρα αποφάσεων με ιδιαίτερα αποδοτικό τρόπο. Πολλά μικρά δέντρα εκπαιδεύονται διαδοχικά, το καθένα διορθώνοντας τα σφάλματα των προηγουμένων, ενώ η κανονικοποίηση βοηθά στην αποφυγή υπερπροσαρμογής. Το XGBoost θεωρείται δοκιμασμένη επιλογή για πινακοειδή δεδομένα, για παράδειγμα στη βαθμολόγηση πιστωτικού κινδύνου, στην πρόβλεψη απώλειας πελατών ή στις προβλέψεις πωλήσεων.

Θέματα

Μηχανική μάθηση
Boosting
Ανοιχτός κώδικας

Δοκιμάστε το KI.ordo

Πράκτορες, ροές εργασιών και πρότυπα σε έναν χώρο εργασίας – δωρεάν επίδειξη 24 ωρών.

Έναρξη επίδειξης

← Όλοι οι όροι

Σχετικοί όροι

Gradient boosting

Το gradient boosting είναι μια τεχνική μηχανικής μάθησης που συνδυάζει πολλά απλά μοντέλα – συνήθως μικρά δέντρα αποφάσεων – διαδοχικά. Κάθε νέο δέντρο εκπαιδεύεται ειδικά ώστε να μειώνει τα εναπομείναντα σφάλματα των προηγούμενων. Το αποτέλεσμα είναι εξαιρετικά ακριβή μοντέλα για πινακοποιημένα δεδομένα, για παράδειγμα για πιστωτικό κίνδυνο, προβλέψεις πωλήσεων ή πιθανότητα διαρροής πελατών. Γνωστές υλοποιήσεις είναι τα XGBoost, LightGBM και CatBoost· απαιτείται προσεκτικός συντονισμός για να αποφευχθεί η υπερπροσαρμογή.

Μηχανική μάθηση
μέθοδος συνόλου (ensemble)
+1

LightGBM

Το LightGBM είναι μια βιβλιοθήκη ανοικτού κώδικα για gradient boosting με δέντρα αποφάσεων, που αναπτύχθηκε αρχικά από τη Microsoft. Έχει σχεδιαστεί για ταχύτητα και χαμηλή χρήση μνήμης, μεταξύ άλλων μέσω εκπαίδευσης βάσει ιστογράμματος και δέντρων που αναπτύσσονται κατά φύλλο (leaf-wise) στο πιο υποσχόμενο φύλλο. Το LightGBM ταιριάζει ιδιαίτερα σε μεγάλα πινακοποιημένα σύνολα δεδομένων, για παράδειγμα για προβλέψεις πωλήσεων, πρόβλεψη διαρροής πελατών ή ανίχνευση απάτης, και συγκρίνεται συχνά με το XGBoost.

Gradient boosting
Δεδομένα πινάκων
+1

Boosting

Το boosting είναι μια μέθοδος συνόλου στη μηχανική μάθηση κατά την οποία πολλά απλά μοντέλα εκπαιδεύονται το ένα μετά το άλλο, με κάθε νέο μοντέλο να εστιάζει στις περιπτώσεις στις οποίες έσφαλαν οι προκάτοχοί του. Μαζί σχηματίζουν ένα πολύ ακριβέστερο συνολικό μοντέλο. Γνωστές παραλλαγές είναι το AdaBoost και το gradient boosting, με βιβλιοθήκες όπως το XGBoost ή το LightGBM. Το boosting είναι ιδιαίτερα ισχυρό σε δεδομένα πινάκων, για παράδειγμα σε προβλέψεις πιστωτικού κινδύνου, πωλήσεων ή απώλειας πελατών.

Μέθοδοι συνόλου
Μηχανική μάθηση
+1

Παλινδρόμηση τυχαίου δάσους

Η παλινδρόμηση τυχαίου δάσους (random forest regression) προβλέπει αριθμητικές τιμές συνδυάζοντας πολλά δέντρα αποφάσεων. Κάθε δέντρο εκπαιδεύεται σε ένα τυχαίο δείγμα των δεδομένων και σε μια τυχαία επιλογή χαρακτηριστικών· το αποτέλεσμα είναι ο μέσος όρος των προβλέψεων όλων των δέντρων. Έτσι η μέθοδος είναι πιο ανθεκτική και λιγότερο επιρρεπής σε υπερπροσαρμογή από ένα μεμονωμένο δέντρο. Χρησιμοποιείται, για παράδειγμα, για προβλέψεις πωλήσεων, εκτιμήσεις τιμών ή ενεργειακή ζήτηση – συχνά ως στέρεο σημείο εκκίνησης για πινακοειδή δεδομένα.

παλινδρόμηση
μέθοδος συνόλου
+1