Sanasto

Keinotekoiset neuroverkot (ANN)

Mikä on Keinotekoiset neuroverkot (ANN)?

Keinotekoiset neuroverkot (ANN) ovat laskennallisia malleja, jotka koostuvat monista kerroksittain järjestetyistä, toisiinsa kytketyistä yksiköistä (”neuroneista”) ja käsittelevät syötteitä painotettujen yhteyksien kautta. Koulutuksen aikana painoja säädetään askel askeleelta esimerkkien avulla, yleensä takaisinkytkennällä (backpropagation). ANN-verkot ovat syväoppimisen perusta, ja ne ovat kuvantunnistuksen, puheentunnistuksen ja suurten kielimallien taustalla. Biologisesta esikuvastaan huolimatta ne toimivat paljon yksinkertaisemmin kuin ihmisaivot.

Aiheet

Syväoppiminen
tekoälyn perusteet
mallit

Kokeile KI.ordoa

Agentit, työnkulut ja mallit yhdessä työtilassa – maksuton 24 tunnin demo.

Aloita demo

← Kaikki termit

Liittyvät termit

Syväoppiminen

Syväoppiminen on koneoppimisen haara, joka käyttää tekoälyn keinotekoisia neuroverkkoja, joissa on monta kerrosta. Tällaiset verkot oppivat suurista datamääristä, mitkä piirteet ovat tärkeitä – kuvien reunoista tekstien merkityssuhteisiin. Syväoppiminen on nykyisten kielimallien, kuvan- ja puheentunnistuksen sekä konekäännöksen perusta, ja se vaatii yleensä paljon laskentatehoa ja koulutusdataa.

neuroverkot
koneoppiminen
+1

Backpropagation

Vastavirta-algoritmi (backpropagation) on vakiomenetelmä, jolla neuroverkot oppivat. Jokaisen ennusteen jälkeen virhe mitataan ja levitetään taaksepäin verkon kerrosten läpi, mikä näyttää, kuinka paljon kukin paino vaikutti siihen. Optimointimenetelmä, kuten gradienttimenetelmä, säätää sitten painoja askel kerrallaan. Ilman vastavirta-algoritmia nykyisten kieli- ja kuvamallien kouluttaminen olisi käytännössä mahdotonta.

Neuroverkot
Training
+1

Aktivointifunktiot

Aktivointifunktiot määrittävät, kuinka voimakkaasti keinotekoisen neuroverkon neuroni välittää signaalinsa eteenpäin. Ne tuovat verkkoon epälineaarisuutta – vasta sen ansiosta verkko pystyy esittämään monimutkaisia yhteyksiä, kuten kieltä tai kuvia. Yleisiä esimerkkejä ovat ReLU, joka asettaa negatiiviset arvot nollaksi, sigmoid todennäköisyyksille 0:n ja 1:n välillä sekä GELU, jota käytetään monissa transformer-malleissa. Valinta vaikuttaa koulutuksen nopeuteen ja vakauteen.

Neuroverkot
Syväoppiminen
+1

Transformer

Transformer on neuroverkkoarkkitehtuuri, joka esiteltiin vuonna 2017 tutkimusartikkelissa ”Attention Is All You Need”. Sen ytimessä on huomiomekanismi: jokaista sanaa painotetaan suhteessa kaikkiin muihin tekstin sanoihin, ja laskenta voidaan rinnakkaistaa tehokkaasti. Transformerit ovat nykyisten kielimallien, kuten GPT:n, Clauden ja BERTin, perusta, ja niitä käytetään myös kuvissa ja äänessä.

Arkkitehtuuri
Syväoppiminen
+1