Γλωσσάριο

Gradient boosting

Τι είναι Gradient boosting;

Το gradient boosting είναι μια τεχνική μηχανικής μάθησης που συνδυάζει πολλά απλά μοντέλα – συνήθως μικρά δέντρα αποφάσεων – διαδοχικά. Κάθε νέο δέντρο εκπαιδεύεται ειδικά ώστε να μειώνει τα εναπομείναντα σφάλματα των προηγούμενων. Το αποτέλεσμα είναι εξαιρετικά ακριβή μοντέλα για πινακοποιημένα δεδομένα, για παράδειγμα για πιστωτικό κίνδυνο, προβλέψεις πωλήσεων ή πιθανότητα διαρροής πελατών. Γνωστές υλοποιήσεις είναι τα XGBoost, LightGBM και CatBoost· απαιτείται προσεκτικός συντονισμός για να αποφευχθεί η υπερπροσαρμογή.

Θέματα

Μηχανική μάθηση
μέθοδος συνόλου (ensemble)
Δεδομένα πινάκων

Δοκιμάστε το KI.ordo

Πράκτορες, ροές εργασιών και πρότυπα σε έναν χώρο εργασίας – δωρεάν επίδειξη 24 ωρών.

Έναρξη επίδειξης

← Όλοι οι όροι

Σχετικοί όροι

XGBoost

Το XGBoost (Extreme Gradient Boosting) είναι μια βιβλιοθήκη ανοικτού κώδικα που υλοποιεί την ενίσχυση κλίσης (gradient boosting) με δέντρα αποφάσεων με ιδιαίτερα αποδοτικό τρόπο. Πολλά μικρά δέντρα εκπαιδεύονται διαδοχικά, το καθένα διορθώνοντας τα σφάλματα των προηγουμένων, ενώ η κανονικοποίηση βοηθά στην αποφυγή υπερπροσαρμογής. Το XGBoost θεωρείται δοκιμασμένη επιλογή για πινακοειδή δεδομένα, για παράδειγμα στη βαθμολόγηση πιστωτικού κινδύνου, στην πρόβλεψη απώλειας πελατών ή στις προβλέψεις πωλήσεων.

Μηχανική μάθηση
Boosting
+1

LightGBM

Το LightGBM είναι μια βιβλιοθήκη ανοικτού κώδικα για gradient boosting με δέντρα αποφάσεων, που αναπτύχθηκε αρχικά από τη Microsoft. Έχει σχεδιαστεί για ταχύτητα και χαμηλή χρήση μνήμης, μεταξύ άλλων μέσω εκπαίδευσης βάσει ιστογράμματος και δέντρων που αναπτύσσονται κατά φύλλο (leaf-wise) στο πιο υποσχόμενο φύλλο. Το LightGBM ταιριάζει ιδιαίτερα σε μεγάλα πινακοποιημένα σύνολα δεδομένων, για παράδειγμα για προβλέψεις πωλήσεων, πρόβλεψη διαρροής πελατών ή ανίχνευση απάτης, και συγκρίνεται συχνά με το XGBoost.

Gradient boosting
Δεδομένα πινάκων
+1

Boosting

Το boosting είναι μια μέθοδος συνόλου στη μηχανική μάθηση κατά την οποία πολλά απλά μοντέλα εκπαιδεύονται το ένα μετά το άλλο, με κάθε νέο μοντέλο να εστιάζει στις περιπτώσεις στις οποίες έσφαλαν οι προκάτοχοί του. Μαζί σχηματίζουν ένα πολύ ακριβέστερο συνολικό μοντέλο. Γνωστές παραλλαγές είναι το AdaBoost και το gradient boosting, με βιβλιοθήκες όπως το XGBoost ή το LightGBM. Το boosting είναι ιδιαίτερα ισχυρό σε δεδομένα πινάκων, για παράδειγμα σε προβλέψεις πιστωτικού κινδύνου, πωλήσεων ή απώλειας πελατών.

Μέθοδοι συνόλου
Μηχανική μάθηση
+1

Δέντρο αποφάσεων

Ένα δέντρο αποφάσεων είναι ένα μοντέλο που αναπαριστά μια απόφαση ως ακολουθία απλών ερωτήσεων ναι/όχι: κάθε κλάδος ελέγχει ένα χαρακτηριστικό και κάθε φύλλο δίνει ένα αποτέλεσμα. Στη μηχανική μάθηση, τέτοια δέντρα μαθαίνονται αυτόματα από δεδομένα και χρησιμοποιούνται για ταξινόμηση ή πρόβλεψη. Το κύριο πλεονέκτημά τους είναι η διαφάνεια – για παράδειγμα, δείχνουν γιατί μια αίτηση δανείου επισημάνθηκε με βάση το εισόδημα, τη διάρκεια και το ιστορικό πληρωμών.

Μηχανική μάθηση
Κατάταξη
+1