Γλωσσάριο

Ανθεκτικότητα μοντέλου

Τι είναι Ανθεκτικότητα μοντέλου;

Η ανθεκτικότητα μοντέλου περιγράφει πόσο αξιόπιστα λειτουργεί ένα μοντέλο ΤΝ όταν οι είσοδοι έχουν θόρυβο, είναι ελλιπείς, ασυνήθιστες ή έχουν χειραγωγηθεί σκόπιμα. Ένα ανθεκτικό μοντέλο εξακολουθεί να παράγει σταθερά αποτελέσματα, όπως η αναγνώριση εικόνας σε κακό φωτισμό ή ένα γλωσσικό μοντέλο που χειρίζεται ορθογραφικά λάθη. Η ανθεκτικότητα αξιολογείται με δοκιμές καταπόνησης, ποικίλα δεδομένα εκπαίδευσης και δοκιμές απέναντι σε σκόπιμες απόπειρες παραπλάνησης, και είναι ιδιαίτερα σημαντική σε εφαρμογές κρίσιμες για την ασφάλεια.

Θέματα

αξιοπιστία
ποιότητα μοντέλου
ασφάλεια

Δοκιμάστε το KI.ordo

Πράκτορες, ροές εργασιών και πρότυπα σε έναν χώρο εργασίας – δωρεάν επίδειξη 24 ωρών.

Έναρξη επίδειξης

← Όλοι οι όροι

Σχετικοί όροι

Αντιπαραθετική μηχανική μάθηση

Η αντιπαραθετική μηχανική μάθηση (adversarial machine learning) μελετά πώς τα μοντέλα ΤΝ μπορούν να παραπλανηθούν από σκόπιμα παραποιημένα δεδομένα εισόδου ή εκπαίδευσης – και πώς μπορούν να προστατευθούν. Γνωστά παραδείγματα είναι ελάχιστα ορατές αλλαγές σε εικόνες που ανατρέπουν μια ταξινόμηση ή δηλητηριασμένα δεδομένα εκπαίδευσης. Το θέμα έχει σημασία για τους οργανισμούς μόλις η ΤΝ υποστηρίζει αποφάσεις σχετικές με την ασφάλεια. Τα αντίμετρα περιλαμβάνουν ανθεκτική εκπαίδευση, ελέγχους εισόδου, παρακολούθηση και τακτικές δοκιμές ασφαλείας.

Ασφάλεια ΤΝ
Ανθεκτικότητα
+1

Απόκλιση μοντέλου

Η απόκλιση μοντέλου (model drift) είναι η σταδιακή πτώση της ποιότητας πρόβλεψης ενός μοντέλου κατά τη λειτουργία, επειδή η πραγματικότητα αλλάζει σε σχέση με τα δεδομένα εκπαίδευσης. Διακρίνονται οι αλλαγές στα δεδομένα εισόδου (data drift) και οι αλλαγές στη σχέση μεταξύ εισόδων και αποτελεσμάτων (concept drift). Παράδειγμα: ένα μοντέλο ανίχνευσης απάτης δεν εντοπίζει νέα σχήματα απάτης. Τα διορθωτικά μέτρα περιλαμβάνουν τη συνεχή παρακολούθηση μετρικών και την τακτική επανεκπαίδευση.

MLOps
ποιότητα μοντέλου
+1

Σφάλμα γενίκευσης

Το σφάλμα γενίκευσης μετρά πόσο αποκλίνει ένα μοντέλο ΤΝ σε νέα, άγνωστα μέχρι τώρα δεδομένα – σε αντίθεση με το σφάλμα του στα δεδομένα εκπαίδευσης. Μεγάλο χάσμα μεταξύ των δύο υποδεικνύει υπερπροσαρμογή: το μοντέλο απομνημόνευσε παραδείγματα αντί να μάθει γενικά μοτίβα. Εκτιμάται με δεδομένα δοκιμής που κρατήθηκαν στην άκρη ή με διασταυρούμενη επικύρωση. Είναι το μέγεθος που μετράει πραγματικά, επειδή στην πράξη ένα μοντέλο συναντά σχεδόν μόνο νέες περιπτώσεις.

Μηχανική μάθηση
Αξιολόγηση μοντέλων
+1

Overfitting

Η υπερπροσαρμογή (overfitting) προκύπτει όταν ένα μοντέλο απομνημονεύει τα δεδομένα εκπαίδευσης, συμπεριλαμβανομένων τυχαίων ιδιομορφιών και θορύβου, αντί να συλλαμβάνει γενικά ισχύοντα πρότυπα. Τότε φαίνεται πολύ ακριβές στα γνωστά δεδομένα, αλλά αποδίδει άσχημα σε νέα. Ένα μεγάλο χάσμα ανάμεσα στο σφάλμα εκπαίδευσης και δοκιμής είναι τυπική ένδειξη. Τα αντίμετρα περιλαμβάνουν περισσότερα ή πιο ποικίλα δεδομένα, απλούστερα μοντέλα, κανονικοποίηση, dropout και διασταυρούμενη επικύρωση.

ποιότητα μοντέλου
εκπαίδευση
+1