Slovník pojmov

Umelé neurónové siete (ANN)

Čo je Umelé neurónové siete (ANN)?

Umelé neurónové siete (ANN, artificial neural networks) sú výpočtové modely zložené z mnohých prepojených jednotiek („neurónov“) usporiadaných do vrstiev, ktoré spracúvajú vstupy cez vážené spojenia. Počas trénovania sa váhy krok za krokom upravujú pomocou príkladov, zvyčajne spätným šírením chyby (backpropagation). ANN sú základom hlbokého učenia a poháňajú rozpoznávanie obrazu, rozpoznávanie reči a veľké jazykové modely. Napriek biologickej inšpirácii fungujú oveľa jednoduchšie než ľudský mozog.

Témy

Hlboké učenie
základy AI
modely

Vyskúšajte KI.ordo

Agenti, postupy a šablóny v jednom pracovnom priestore – bezplatné 24-hodinové demo.

Spustiť demo

← Všetky pojmy

Súvisiace pojmy

Hlboké učenie

Hlboké učenie je odvetvie strojového učenia, ktoré využíva umelé neurónové siete s mnohými vrstvami. Takéto siete sa z veľkého množstva údajov učia, na ktorých znakoch záleží – od hrán v obrázkoch až po významové súvislosti v textoch. Hlboké učenie je základom dnešných jazykových modelov, rozpoznávania obrazu a reči a strojového prekladu a zvyčajne si vyžaduje značný výpočtový výkon a veľa trénovacích údajov.

neurónové siete
strojové učenie
+1

Backpropagation

Spätné šírenie chyby (backpropagation) je štandardná metóda, ktorou sa neurónové siete učia. Po každej predpovedi sa zmeria chyba a šíri sa späť cez vrstvy siete, čím sa ukáže, akou mierou k nej prispela každá váha. Optimalizačná metóda, napríklad gradientný zostup, potom váhy postupne upravuje. Bez spätného šírenia chyby by bolo trénovanie dnešných jazykových a obrazových modelov prakticky nemožné.

Neurónové siete
Training
+1

Aktivačné funkcie

Aktivačné funkcie určujú, ako silno neurón v umelej neurónovej sieti odovzdá svoj signál ďalej. Vnášajú nelinearitu – až vďaka nej dokáže sieť zachytiť zložité súvislosti, ako je jazyk alebo obraz. Bežnými príkladmi sú ReLU, ktorá záporné hodnoty nastaví na nulu, sigmoida pre pravdepodobnosti medzi 0 a 1 a GELU, používaná v mnohých modeloch typu transformer. Výber ovplyvňuje rýchlosť a stabilitu trénovania.

Neurónové siete
Hlboké učenie
+1

Transformer

Transformer je architektúra neurónových sietí, ktorá bola predstavená v roku 2017 vo výskumnej práci „Attention Is All You Need“. Jej jadrom je mechanizmus pozornosti: každé slovo sa váži vo vzťahu ku všetkým ostatným slovám v texte a výpočet sa dá efektívne paralelizovať. Transformery tvoria základ dnešných jazykových modelov, ako sú GPT, Claude a BERT, a používajú sa aj pri obrázkoch a zvuku.

Architektúra
Hlboké učenie
+1