Glossar

Einbettungsvektor (Embedding)

Was ist Einbettungsvektor (Embedding)?

Ein Einbettungsvektor (Embedding) ist eine Liste von Zahlen, die die Bedeutung eines Wortes, Satzes oder Dokuments so abbildet, dass inhaltlich ähnliche Texte nah beieinanderliegen. So lässt sich etwa erkennen, dass „Kündigung“ und „Vertrag beenden“ verwandt sind, obwohl sie kein Wort teilen. Embeddings bilden die Grundlage vieler semantischer Suchsysteme, Empfehlungsdienste und RAG-Anwendungen; sie werden von eigens trainierten Modellen berechnet.

So hilft KI.ordo

KI.ordo nutzt für die Wissenssuche keine Embeddings, sondern die Stichwortsuche BM25 direkt auf dem Server.

Themen

Vektor
semantische Suche
NLP

KI.ordo ausprobieren

Agenten, Abläufe und Vorlagen in einem Arbeitsbereich – 24 Stunden kostenlos als Demo.

Demo starten

← Alle Begriffe

Verwandte Begriffe

Wort-Embeddings

Wort-Embeddings stellen Wörter als Zahlenvektoren dar, sodass Wörter mit ähnlicher Bedeutung im Vektorraum nahe beieinanderliegen – etwa „Auto“ und „Fahrzeug“. Verfahren wie Word2Vec oder GloVe lernen diese Vektoren aus großen Textmengen. Sie bildeten einen wichtigen Schritt der Sprachverarbeitung, etwa für Suche oder Klassifikation; heutige Sprachmodelle nutzen kontextabhängige Embeddings, bei denen ein Wort je nach Satz unterschiedlich dargestellt wird.

NLP
Vektoren
+1

Retrieval-Augmented Generation (RAG)

Retrieval-Augmented Generation verbindet eine Suche mit der Textgenerierung: Vor dem Antworten sucht das System in einer Wissenssammlung – etwa Handbüchern, Richtlinien oder FAQ – die passenden Abschnitte und gibt sie dem Sprachmodell als Kontext mit. So stützt sich die Antwort auf aktuelle, unternehmenseigene Inhalte statt nur auf das Trainingswissen des Modells. Das verringert erfundene Aussagen, macht Quellen nachvollziehbar und erlaubt Aktualisierungen ohne neues Training.

RAG
Wissenssuche
+1

Informationsabruf

Informationsabruf (Information Retrieval) umfasst Verfahren, die aus großen Textbeständen die zu einer Anfrage passenden Dokumente oder Abschnitte finden und nach Relevanz sortieren. Klassische Methoden wie BM25 gewichten Suchbegriffe nach Häufigkeit und Seltenheit, neuere ergänzen semantische Ähnlichkeit. Informationsabruf ist die Grundlage von Suchmaschinen, Unternehmenssuche und Retrieval-Augmented Generation, bei der ein Sprachmodell gefundene Passagen als Grundlage seiner Antwort nutzt.

Suche
BM25
+1

Transformer

Der Transformer ist eine Architektur neuronaler Netze, die 2017 in dem Forschungsartikel „Attention Is All You Need“ vorgestellt wurde. Ihr Kern ist der Attention-Mechanismus: Jedes Wort wird im Zusammenhang mit allen anderen Wörtern eines Textes gewichtet, und die Berechnung lässt sich gut parallelisieren. Transformer bilden die Grundlage heutiger Sprachmodelle wie GPT, Claude oder BERT und werden auch für Bilder und Audio eingesetzt.

Architektur
Deep Learning
+1