Τι είναι Γενετικός προεκπαιδευμένος μετασχηματιστής (GPT);
Το GPT (generative pre-trained transformer) είναι μια σειρά μεγάλων γλωσσικών μοντέλων που αναπτύχθηκαν από την OpenAI και βασίζονται στην αρχιτεκτονική μετασχηματιστή (transformer). Τα μοντέλα προεκπαιδεύονται πρώτα σε τεράστιες ποσότητες κειμένου για να προβλέπουν το επόμενο token και στη συνέχεια εκπαιδεύονται περαιτέρω για διάλογο και ακολουθία οδηγιών. Το πρώτο μοντέλο GPT εμφανίστηκε το 2018· οι επόμενες γενιές στηρίζουν το ChatGPT. Στην καθημερινή γλώσσα, το «GPT» χρησιμοποιείται συχνά για τα γλωσσικά μοντέλα γενικά.