Deep Learning ist ein Teilbereich des maschinellen Lernens, der künstliche neuronale Netze mit vielen Schichten nutzt. Solche Netze lernen aus großen Datenmengen selbstständig, welche Merkmale wichtig sind – von Kanten in Bildern bis zu Bedeutungszusammenhängen in Texten. Deep Learning bildet die Grundlage heutiger Sprachmodelle, der Bild- und Spracherkennung sowie der maschinellen Übersetzung und benötigt meist viel Rechenleistung und Trainingsdaten.
Agenten, Abläufe und Vorlagen in einem Arbeitsbereich – 24 Stunden kostenlos als Demo.
Demo startenKünstliche neuronale Netze (KNN) sind Rechenmodelle aus vielen verbundenen Einheiten („Neuronen“), die in Schichten angeordnet sind und Eingaben über gewichtete Verbindungen verarbeiten. Beim Training werden die Gewichte anhand von Beispielen schrittweise angepasst, meist per Backpropagation. KNN sind die Grundlage des Deep Learning und stecken in Bilderkennung, Spracherkennung und großen Sprachmodellen. Trotz des biologischen Vorbilds funktionieren sie deutlich einfacher als das menschliche Gehirn.
Maschinelles Lernen ist ein Teilgebiet der künstlichen Intelligenz, bei dem Computer Muster aus Daten ableiten, statt jede Regel ausdrücklich programmiert zu bekommen. Je nach Aufgabe lernen Modelle aus beschrifteten Beispielen (überwacht), aus unbeschrifteten Daten (unüberwacht) oder durch Belohnung (bestärkend). Anwendungen reichen von Spamfiltern über Nachfrageprognosen bis zu Produktempfehlungen. Die Qualität hängt stark von Menge und Güte der Trainingsdaten ab.
Ein Convolutional Neural Network (CNN, faltendes neuronales Netz) ist eine Architektur neuronaler Netze, die sich besonders für Bilddaten eignet. Es tastet die Eingabe mit kleinen Filtern ab und erkennt in den ersten Schichten einfache Merkmale wie Kanten, in tieferen Schichten komplexere Formen. CNNs prägten die Bilderkennung über viele Jahre und werden etwa zur Fehlererkennung auf Produktfotos oder in der medizinischen Bildanalyse eingesetzt.
Der Transformer ist eine Architektur neuronaler Netze, die 2017 in dem Forschungsartikel „Attention Is All You Need“ vorgestellt wurde. Ihr Kern ist der Attention-Mechanismus: Jedes Wort wird im Zusammenhang mit allen anderen Wörtern eines Textes gewichtet, und die Berechnung lässt sich gut parallelisieren. Transformer bilden die Grundlage heutiger Sprachmodelle wie GPT, Claude oder BERT und werden auch für Bilder und Audio eingesetzt.
