WissenKI-Begriffe für Solos

Embeddings einfach erklärt, wie Text zu durchsuchbaren Zahlen wird

Ein Embedding verwandelt die Bedeutung eines Textes in eine Liste von Zahlen. Warum semantische Suche damit findet, was reine Stichwortsuche übersieht.

Tommy Hummel-Nguyen
Tommy Hummel-Nguyen · Ingenieur, kein Softwareentwickler ·

Stell dir eine Bibliothek vor, in der Bücher nicht alphabetisch nach Titel stehen, sondern nach Bedeutung sortiert sind. Ein Buch über „Steuererklärung für Selbstständige" steht direkt neben einem über „Buchhaltung für Freelancer", obwohl beide Titel kein einziges gemeinsames Wort teilen. Genau das macht ein Embedding mit Text: es übersetzt Bedeutung in eine Position im Raum, an der ähnliche Inhalte nah beieinander liegen.

Kurz gesagt

Ein Embedding ist eine lange Liste von Zahlen, die die Bedeutung eines Textabschnitts erfasst, technisch ein Vektor. Texte mit ähnlicher Bedeutung bekommen ähnliche Zahlenlisten, auch wenn sie kein gemeinsames Wort teilen. Das macht semantische Suche möglich: ein System findet passende Inhalte, weil sie inhaltlich zusammengehören, nicht weil dieselben Stichwörter vorkommen. Die Grundlage hinter moderner KI-Suche und Retrieval-Augmented Generation.

Wie aus Text eine Zahlenliste wird

Ein Embedding-Modell liest einen Text und gibt dafür einen Vektor aus, oft mehrere hundert oder über tausend Zahlen lang. Trainiert wurde dieses Modell an riesigen Textmengen, dabei hat es gelernt, welche Wörter und Konzepte inhaltlich zusammengehören. „Katze" und „Kater" landen dadurch nah beieinander, „Katze" und „Steuererklärung" weit auseinander. Die einzelnen Zahlen im Vektor sind für sich genommen bedeutungslos, erst ihre Position im Verhältnis zu anderen Vektoren zählt.

Warum das für dich als Solounternehmer zählt

Eine klassische Stichwortsuche findet nur, was wortwörtlich vorkommt. Suchst du in deinen Notizen nach „Kunde verärgert", findest du nichts, wenn dort „unzufriedener Auftraggeber" steht, obwohl beides dasselbe meint. Ein System, das mit Embeddings arbeitet, erkennt diese inhaltliche Nähe trotzdem. Genau darauf bauen Werkzeuge wie NotebookLM oder Claude Projects auf, wenn sie in deinen eigenen Dokumenten die passende Stelle finden, ohne dass du die exakte Formulierung treffen musst.

Die enge, aber eigenständige Verbindung zu RAG

Embeddings sind der Mechanismus, der RAG erst möglich macht: der Suchschritt, bevor eine KI antwortet, läuft über den Vergleich von Embeddings. Trotzdem ist ein Embedding kein RAG-System für sich. Ein Embedding ist die Zahlenliste zu einem einzelnen Textabschnitt, RAG ist das komplette Muster aus Suchen und dann Antworten. Du kannst Embeddings auch für andere Zwecke nutzen, etwa um ähnliche Kundenanfragen automatisch zu gruppieren, ganz ohne dass am Ende eine KI-Antwort formuliert wird.

Die Grenze, die bleibt

Ähnlich ist nicht dasselbe wie richtig. Eine Frage und eine falsche Antwort darauf können im Vektorraum sehr nah beieinander liegen, weil beide über dasselbe Thema sprechen. Ein Embedding sagt nichts darüber, ob ein Inhalt stimmt, nur darüber, wie eng er thematisch verwandt ist. Und ein weiterer Punkt: Embedding-Modelle werden regelmäßig aktualisiert. Wechselst du das Modell, sind alte und neue Embeddings nicht mehr vergleichbar, deine gesamte Wissensbasis muss dann neu indexiert werden.

Quellen: What is Embedding? (AWS) · What is Embedding? (IBM)

Häufige Fragen

Sind Embeddings dasselbe wie Tokens?

Nein. Ein Token ist ein einzelnes Text-Bruchstück, mit dem ein Modell rechnet. Ein Embedding ist die Zahlenliste, die die Bedeutung eines ganzen Textabschnitts erfasst, aufgebaut aus vielen Tokens.

Muss ich als Solounternehmer selbst Embeddings berechnen?

Nein. Werkzeuge wie NotebookLM, Claude Projects oder eine Suchfunktion in deinem Tool übernehmen das im Hintergrund. Du lädst Dokumente hoch, den Rest erledigt das System.

Wie viele Zahlen hat ein Embedding?

Das hängt vom Modell ab, üblich sind einige hundert bis über tausend Zahlen pro Textabschnitt. Für dich als Nutzer ist diese Zahl nicht sichtbar und auch nicht relevant.

Bleibt ein Embedding für immer gültig?

Nur solange dasselbe Embedding-Modell im Einsatz bleibt. Wechselt ein Anbieter das zugrundeliegende Modell, müssen bestehende Dokumente neu verarbeitet werden, sonst passen alte und neue Zahlenlisten nicht mehr zusammen.

Willst du das bei dir umsetzen?

In der Community zeige ich, was bei mir hält. Im Erstgespräch schauen wir uns dein Vorhaben konkret an.