Ordliste

Kunstige neurale netværk (ANN'er)

Hvad er Kunstige neurale netværk (ANN'er)?

Kunstige neurale netværk (ANN'er) er beregningsmodeller bestående af mange forbundne enheder (»neuroner«) arrangeret i lag, som behandler input via vægtede forbindelser. Under træning justeres vægtene trin for trin ud fra eksempler, som regel ved backpropagation. ANN'er er fundamentet for deep learning og driver billedgenkendelse, talegenkendelse og store sprogmodeller. På trods af den biologiske inspiration fungerer de langt mere enkelt end den menneskelige hjerne.

Emner

  • Deep learning
  • AI-grundbegreber
  • Modeller

Prøv KI.ordo

Agenter, flows og skabeloner i ét arbejdsområde – gratis demo i 24 timer.

Start demo
← Alle begreber

Relaterede begreber

Deep learning

Deep learning er en gren af maskinlæring, der bruger kunstige neurale netværk med mange lag. Sådanne netværk lærer ud fra store datamængder, hvilke træk der er vigtige – fra kanter i billeder til betydningsrelationer i tekster. Deep learning ligger til grund for nutidens sprogmodeller, billed- og talegenkendelse og maskinoversættelse og kræver som regel betydelig regnekraft og mange træningsdata.

  • neurale netværk
  • maskinlæring
  • +1

Backpropagation

Backpropagation er standardmetoden, som neurale netværk lærer med. Efter hver forudsigelse måles fejlen og sendes baglæns gennem netværkets lag, så det fremgår, hvor meget hver vægt har bidraget til den. En optimeringsmetode som gradient descent justerer derefter vægtene trin for trin. Uden backpropagation ville det i praksis være umuligt at træne nutidens sprog- og billedmodeller.

  • Neurale netværk
  • Training
  • +1

Aktiveringsfunktioner

Aktiveringsfunktioner bestemmer, hvor kraftigt en neuron i et kunstigt neuralt netværk sender sit signal videre. De tilføjer ikke-linearitet – først da kan netværket gengive komplekse sammenhænge som sprog eller billeder. Almindelige eksempler er ReLU, der sætter negative værdier til nul, sigmoid til sandsynligheder mellem 0 og 1 og GELU, der bruges i mange transformermodeller. Valget påvirker træningens hastighed og stabilitet.

  • Neurale netværk
  • Deep learning
  • +1

Transformer

Transformeren er en neural netværksarkitektur, der blev introduceret i 2017 i forskningsartiklen »Attention Is All You Need«. Kernen er attention-mekanismen: hvert ord vægtes i forhold til alle andre ord i en tekst, og beregningen kan paralleliseres effektivt. Transformere ligger til grund for nutidens sprogmodeller som GPT, Claude og BERT og bruges også til billeder og lyd.

  • Arkitektur
  • Deep learning
  • +1