Ενισχυτική μάθηση από ανθρώπινη ανατροφοδότηση (RLHF)

Τι είναι Ενισχυτική μάθηση από ανθρώπινη ανατροφοδότηση (RLHF);

Το RLHF είναι μια μέθοδος εκπαίδευσης που κάνει τα γλωσσικά μοντέλα πιο χρήσιμα και πιο ασφαλή. Άνθρωποι συγκρίνουν και βαθμολογούν περισσότερες απαντήσεις του μοντέλου· αυτές οι κρίσεις χρησιμοποιούνται για την εκπαίδευση ενός μοντέλου ανταμοιβής, το οποίο στη συνέχεια εκπαιδεύει περαιτέρω το ίδιο το γλωσσικό μοντέλο μέσω ενισχυτικής μάθησης. Έτσι διδάσκεται, για παράδειγμα, να απαντά πιο σαφώς ή να αρνείται προβληματικά αιτήματα. Το RLHF πραγματοποιείται στον πάροχο του μοντέλου πριν από την κυκλοφορία του – όχι με μεμονωμένους χρήστες.