Terminų žodynas

Dirbtiniai neuroniniai tinklai (DNT)

Kas yra Dirbtiniai neuroniniai tinklai (DNT)?

Dirbtiniai neuroniniai tinklai (DNT) – tai skaičiavimo modeliai, sudaryti iš daugelio sujungtų sluoksniais išdėstytų vienetų („neuronų“), kurie apdoroja įvestį per svertinius ryšius. Mokymo metu svoriai žingsnis po žingsnio koreguojami pagal pavyzdžius, dažniausiai atgalinio sklidimo metodu. DNT yra giluminio mokymosi pagrindas ir veikia vaizdų atpažinimą, kalbos atpažinimą bei didelius kalbos modelius. Nepaisant biologinės įkvėpties, jie veikia daug paprasčiau nei žmogaus smegenys.

Temos

Gilusis mokymasis
DI pagrindai
modeliai

Išbandykite KI.ordo

Agentai, srautai ir šablonai vienoje darbo srityje – nemokama 24 valandų demonstracinė versija.

Pradėti demonstraciją

← Visi terminai

Susiję terminai

Gilusis mokymasis

Giluminis mokymasis yra mašininio mokymosi šaka, naudojanti dirbtinius neuroninius tinklus su daugybe sluoksnių. Tokie tinklai iš didelių duomenų kiekių mokosi, kurie požymiai svarbūs – nuo vaizdų kontūrų iki prasminių ryšių tekstuose. Giluminis mokymasis yra šiandienos kalbos modelių, vaizdų ir kalbos atpažinimo bei mašininio vertimo pagrindas, ir paprastai reikalauja daug skaičiavimo galios bei mokymo duomenų.

neuroniniai tinklai
mašininis mokymasis
+1

Backpropagation

Atgalinis sklidimas (backpropagation) – standartinis metodas, kuriuo mokosi neuroniniai tinklai. Po kiekvienos prognozės išmatuojama klaida ir ji skleidžiama atgal per tinklo sluoksnius, parodant, kiek kiekvienas svoris prie jos prisidėjo. Tada optimizavimo metodas, pavyzdžiui, gradientinis nusileidimas, žingsnis po žingsnio koreguoja svorius. Be atgalinio sklidimo šiandieninių kalbos ir vaizdų modelių mokymas būtų praktiškai neįmanomas.

Neuroniniai tinklai
Training
+1

Aktyvacijos funkcijos

Aktyvacijos funkcijos nustato, kaip stipriai dirbtinio neuroninio tinklo neuronas perduoda savo signalą. Jos įveda netiesiškumą – tik tada tinklas gali atvaizduoti sudėtingus ryšius, pavyzdžiui, kalbą ar vaizdus. Įprasti pavyzdžiai – ReLU, kuri neigiamas reikšmes paverčia nuliu, sigmoidė tikimybėms nuo 0 iki 1 ir GELU, naudojama daugelyje transformerių modelių. Pasirinkimas turi įtakos mokymo greičiui ir stabilumui.

Neuroniniai tinklai
Gilusis mokymasis
+1

Transformer

Transformeris – neuroninio tinklo architektūra, pristatyta 2017 m. moksliniame straipsnyje „Attention Is All You Need“. Jos esmė – dėmesio mechanizmas: kiekvienas teksto žodis įvertinamas atsižvelgiant į visus kitus žodžius, o skaičiavimus galima efektyviai lygiagretinti. Transformeriais remiasi šiandienos kalbos modeliai, tokie kaip GPT, Claude ir BERT, jie taip pat naudojami vaizdams ir garsui.

architektūra
Gilusis mokymasis
+1