Deep learning er en gren af maskinlæring, der bruger kunstige neurale netværk med mange lag. Sådanne netværk lærer ud fra store datamængder, hvilke træk der er vigtige – fra kanter i billeder til betydningsrelationer i tekster. Deep learning ligger til grund for nutidens sprogmodeller, billed- og talegenkendelse og maskinoversættelse og kræver som regel betydelig regnekraft og mange træningsdata.
Kunstige neurale netværk (ANN'er) er beregningsmodeller bestående af mange forbundne enheder (»neuroner«) arrangeret i lag, som behandler input via vægtede forbindelser. Under træning justeres vægtene trin for trin ud fra eksempler, som regel ved backpropagation. ANN'er er fundamentet for deep learning og driver billedgenkendelse, talegenkendelse og store sprogmodeller. På trods af den biologiske inspiration fungerer de langt mere enkelt end den menneskelige hjerne.
Maskinlæring er en gren af kunstig intelligens, hvor computere udleder mønstre af data i stedet for at få hver regel programmeret eksplicit. Afhængigt af opgaven lærer modeller af mærkede eksempler (overvåget), af umærkede data (uovervåget) eller gennem belønninger (reinforcement). Anvendelserne spænder fra spamfiltre og efterspørgselsprognoser til produktanbefalinger. Kvaliteten afhænger i høj grad af mængden og kvaliteten af træningsdataene.
Et konvolutionelt neuralt netværk (CNN) er en arkitektur for neurale netværk, der er særlig velegnet til billeddata. Det gennemsøger inputtet med små filtre og genkender simple træk som kanter i de første lag og mere komplekse former i de dybere lag. CNN'er prægede billedgenkendelsen i mange år og bruges for eksempel til at finde fejl på produktfotos eller i medicinsk billedanalyse.
Transformeren er en neural netværksarkitektur, der blev introduceret i 2017 i forskningsartiklen »Attention Is All You Need«. Kernen er attention-mekanismen: hvert ord vægtes i forhold til alle andre ord i en tekst, og beregningen kan paralleliseres effektivt. Transformere ligger til grund for nutidens sprogmodeller som GPT, Claude og BERT og bruges også til billeder og lyd.
