Funcțiile de activare determină cât de puternic își transmite semnalul un neuron dintr-o rețea neuronală artificială. Ele introduc neliniaritatea – abia astfel rețeaua poate reprezenta relații complexe, precum limbajul sau imaginile. Exemple obișnuite sunt ReLU, care transformă valorile negative în zero, sigmoida pentru probabilități între 0 și 1 și GELU, utilizată în multe modele transformer. Alegerea influențează viteza și stabilitatea antrenării.
Agenți, fluxuri și șabloane într-un singur spațiu de lucru – demo gratuit de 24 de ore.
Porniți demo-ulRețelele neuronale artificiale (RNA) sunt modele de calcul formate din multe unități conectate („neuroni”), aranjate în straturi, care prelucrează intrările prin conexiuni ponderate. În timpul antrenării, ponderile sunt ajustate pas cu pas pe baza unor exemple, de obicei prin retropropagare. RNA stau la baza deep learning și alimentează recunoașterea imaginilor, recunoașterea vorbirii și modelele lingvistice de mari dimensiuni. În ciuda inspirației biologice, funcționează mult mai simplu decât creierul uman.
Backpropagation (propagarea înapoi a erorii) este metoda standard prin care învață rețelele neuronale. După fiecare predicție, eroarea este măsurată și propagată înapoi prin straturile rețelei, arătând cât a contribuit fiecare pondere la aceasta. O metodă de optimizare, precum coborârea pe gradient, ajustează apoi ponderile pas cu pas. Fără backpropagation, antrenarea modelelor actuale de limbaj și de imagine ar fi practic imposibilă.
Deep learning este o ramură a machine learning care folosește rețele neuronale artificiale cu multe straturi. Astfel de rețele învață din cantități mari de date ce trăsături contează – de la muchiile din imagini până la relațiile de sens din texte. Deep learning stă la baza modelelor lingvistice actuale, a recunoașterii imaginilor și a vorbirii și a traducerii automate și necesită, de regulă, o putere de calcul și date de antrenare considerabile.
