EL
ΣύνδεσηΞεκινήστε τώρα
Γλωσσάριο

Boosting

Τι είναι Boosting;

Το boosting είναι μια μέθοδος συνόλου στη μηχανική μάθηση κατά την οποία πολλά απλά μοντέλα εκπαιδεύονται το ένα μετά το άλλο, με κάθε νέο μοντέλο να εστιάζει στις περιπτώσεις στις οποίες έσφαλαν οι προκάτοχοί του. Μαζί σχηματίζουν ένα πολύ ακριβέστερο συνολικό μοντέλο. Γνωστές παραλλαγές είναι το AdaBoost και το gradient boosting, με βιβλιοθήκες όπως το XGBoost ή το LightGBM. Το boosting είναι ιδιαίτερα ισχυρό σε δεδομένα πινάκων, για παράδειγμα σε προβλέψεις πιστωτικού κινδύνου, πωλήσεων ή απώλειας πελατών.

Θέματα

  • Μέθοδοι συνόλου
  • Μηχανική μάθηση
  • Δεδομένα πινάκων

Δοκιμάστε το KI.ordo

Πράκτορες, ροές εργασιών και πρότυπα σε έναν χώρο εργασίας – δωρεάν επίδειξη 24 ωρών.

Έναρξη επίδειξης
← Όλοι οι όροι

Σχετικοί όροι

Gradient boosting

Το gradient boosting είναι μια τεχνική μηχανικής μάθησης που συνδυάζει πολλά απλά μοντέλα – συνήθως μικρά δέντρα αποφάσεων – διαδοχικά. Κάθε νέο δέντρο εκπαιδεύεται ειδικά ώστε να μειώνει τα εναπομείναντα σφάλματα των προηγούμενων. Το αποτέλεσμα είναι εξαιρετικά ακριβή μοντέλα για πινακοποιημένα δεδομένα, για παράδειγμα για πιστωτικό κίνδυνο, προβλέψεις πωλήσεων ή πιθανότητα διαρροής πελατών. Γνωστές υλοποιήσεις είναι τα XGBoost, LightGBM και CatBoost· απαιτείται προσεκτικός συντονισμός για να αποφευχθεί η υπερπροσαρμογή.

  • Μηχανική μάθηση
  • μέθοδος συνόλου (ensemble)
  • +1

XGBoost

Το XGBoost (Extreme Gradient Boosting) είναι μια βιβλιοθήκη ανοικτού κώδικα που υλοποιεί την ενίσχυση κλίσης (gradient boosting) με δέντρα αποφάσεων με ιδιαίτερα αποδοτικό τρόπο. Πολλά μικρά δέντρα εκπαιδεύονται διαδοχικά, το καθένα διορθώνοντας τα σφάλματα των προηγουμένων, ενώ η κανονικοποίηση βοηθά στην αποφυγή υπερπροσαρμογής. Το XGBoost θεωρείται δοκιμασμένη επιλογή για πινακοειδή δεδομένα, για παράδειγμα στη βαθμολόγηση πιστωτικού κινδύνου, στην πρόβλεψη απώλειας πελατών ή στις προβλέψεις πωλήσεων.

  • Μηχανική μάθηση
  • Boosting
  • +1

LightGBM

Το LightGBM είναι μια βιβλιοθήκη ανοικτού κώδικα για gradient boosting με δέντρα αποφάσεων, που αναπτύχθηκε αρχικά από τη Microsoft. Έχει σχεδιαστεί για ταχύτητα και χαμηλή χρήση μνήμης, μεταξύ άλλων μέσω εκπαίδευσης βάσει ιστογράμματος και δέντρων που αναπτύσσονται κατά φύλλο (leaf-wise) στο πιο υποσχόμενο φύλλο. Το LightGBM ταιριάζει ιδιαίτερα σε μεγάλα πινακοποιημένα σύνολα δεδομένων, για παράδειγμα για προβλέψεις πωλήσεων, πρόβλεψη διαρροής πελατών ή ανίχνευση απάτης, και συγκρίνεται συχνά με το XGBoost.

  • Gradient boosting
  • Δεδομένα πινάκων
  • +1

Bagging

Το bagging (συντομογραφία του bootstrap aggregating) είναι μια μέθοδος συνόλου στη μηχανική μάθηση: πολλά μοντέλα εκπαιδεύονται σε τυχαία επιλεγμένα δείγματα των δεδομένων εκπαίδευσης και οι προβλέψεις τους υπολογίζονται κατά μέσο όρο ή συνδυάζονται με ψηφοφορία πλειοψηφίας. Αυτό κάνει τα αποτελέσματα πιο σταθερά και μειώνει την υπερπροσαρμογή. Το πιο γνωστό παράδειγμα είναι το τυχαίο δάσος (random forest), που συνδυάζει πολλά δέντρα αποφάσεων – για παράδειγμα για την πρόβλεψη της απώλειας πελατών ή των τιμών.

  • Μέθοδοι συνόλου
  • Μηχανική μάθηση
  • +1