Aktyvacijos funkcijos nustato, kaip stipriai dirbtinio neuroninio tinklo neuronas perduoda savo signalą. Jos įveda netiesiškumą – tik tada tinklas gali atvaizduoti sudėtingus ryšius, pavyzdžiui, kalbą ar vaizdus. Įprasti pavyzdžiai – ReLU, kuri neigiamas reikšmes paverčia nuliu, sigmoidė tikimybėms nuo 0 iki 1 ir GELU, naudojama daugelyje transformerių modelių. Pasirinkimas turi įtakos mokymo greičiui ir stabilumui.
Agentai, srautai ir šablonai vienoje darbo srityje – nemokama 24 valandų demonstracinė versija.
Pradėti demonstracijąDirbtiniai neuroniniai tinklai (DNT) – tai skaičiavimo modeliai, sudaryti iš daugelio sujungtų sluoksniais išdėstytų vienetų („neuronų“), kurie apdoroja įvestį per svertinius ryšius. Mokymo metu svoriai žingsnis po žingsnio koreguojami pagal pavyzdžius, dažniausiai atgalinio sklidimo metodu. DNT yra giluminio mokymosi pagrindas ir veikia vaizdų atpažinimą, kalbos atpažinimą bei didelius kalbos modelius. Nepaisant biologinės įkvėpties, jie veikia daug paprasčiau nei žmogaus smegenys.
Atgalinis sklidimas (backpropagation) – standartinis metodas, kuriuo mokosi neuroniniai tinklai. Po kiekvienos prognozės išmatuojama klaida ir ji skleidžiama atgal per tinklo sluoksnius, parodant, kiek kiekvienas svoris prie jos prisidėjo. Tada optimizavimo metodas, pavyzdžiui, gradientinis nusileidimas, žingsnis po žingsnio koreguoja svorius. Be atgalinio sklidimo šiandieninių kalbos ir vaizdų modelių mokymas būtų praktiškai neįmanomas.
Giluminis mokymasis yra mašininio mokymosi šaka, naudojanti dirbtinius neuroninius tinklus su daugybe sluoksnių. Tokie tinklai iš didelių duomenų kiekių mokosi, kurie požymiai svarbūs – nuo vaizdų kontūrų iki prasminių ryšių tekstuose. Giluminis mokymasis yra šiandienos kalbos modelių, vaizdų ir kalbos atpažinimo bei mašininio vertimo pagrindas, ir paprastai reikalauja daug skaičiavimo galios bei mokymo duomenų.
