Wie semantische Suche funktioniert: Embeddings, Vektoren & SBERT

Jedes Mal, wenn Google ein neues KI-Feature raushaut, sitzt kurz darauf ein Kunde bei mir und will den einen Trick. Dabei liegt das eigentlich Spannende eine Ebene tiefer – in einer Mechanik, die seit Jahren still im Hintergrund arbeitet und über die kaum jemand sauber redet: Wie versteht eine Maschine überhaupt, dass „Hund“ und „Welpe“ näher beieinander liegen als „Hund“ und „Auto“?

Die Antwort heißt Embeddings. Und sobald du verstehst, wie Text zu Zahlen wird und wie man die Ähnlichkeit dieser Zahlen misst, fällt der ganze Nebel um „semantische Suche“, „Entitäten“ und „Bedeutung statt Keywords“ in sich zusammen. Es ist Mathematik. Erstaunlich zugängliche Mathematik sogar.

In diesem Beitrag gehe ich den Weg von unten nach oben: vom rohen Wort zum Vektor, vom Vektor zur Cosine Similarity, von dort zu SBERT (dem Modell, das semantische Suche praxistauglich gemacht hat) und am Ende zur Frage, was das für dein SEO bedeutet – inklusive eines aktuellen Google-Papers, das genau diese Technik gegen KI-Spam einsetzt. Den Knowledge-Graph- und Entitäten-Teil habe ich bewusst ausgelagert; den findest du ausführlich in meinem Beitrag zur semantischen Suche und dem Knowledge Graph. Hier geht es um die Vektor-Mechanik darunter.

Computer rechnen, sie lesen nicht. Damit ein Modell mit Sprache umgehen kann, muss Text erst in Zahlen übersetzt werden. Der naive Weg wäre, jedem Wort eine ID zu geben: Hund = 1, Welpe = 2, Auto = 3. Das Problem: Diese Zahlen tragen keine Bedeutung. 2 ist nicht „ähnlicher“ zu 1 als 3, obwohl Welpe inhaltlich näher an Hund liegt als Auto.

Embeddings lösen genau das. Statt einer einzelnen Zahl bekommt jedes Stück Text eine ganze Liste von Zahlen – einen Vektor mit vielen Dimensionen. Moderne Embedding-Modelle nutzen je nach Architektur typischerweise 384, 768 oder 1.536 Dimensionen. Du kannst dir jede Dimension grob als eine erlernte Bedeutungs-Achse vorstellen: eine Achse vielleicht für „lebendig vs. unbelebt“, eine für „groß vs. klein“, eine für „formell vs. umgangssprachlich“. Das Modell legt diese Achsen nicht von Hand fest, es lernt sie aus riesigen Textmengen selbst.

Der Ablauf in drei Schritten:

1. Tokenisierung: Der Text wird in kleinere Einheiten (Tokens) zerlegt – oft Wortteile, nicht ganze Wörter. „Welpenfutter“ kann zu „Welpen“ + „futter“ werden.
2. Modell-Durchlauf: Ein neuronales Netz (bei semantischer Suche meist ein Transformer) verarbeitet die Tokens im Kontext und erzeugt pro Token einen Vektor.
3. Pooling: Die Token-Vektoren werden zu einem einzigen Vektor pro Satz oder Dokument zusammengefasst, meist über den Mittelwert (Mean-Pooling).

Das Ergebnis: ein einziger Vektor, der die Bedeutung des gesamten Textstücks repräsentiert. Zwei Texte, die dasselbe meinen, bekommen ähnliche Vektoren – selbst wenn sie kein einziges Wort teilen. „Wie alt ist der Hauptdarsteller aus Titanic“ und „Leonardo DiCaprios Alter“ liegen im Vektorraum nah beieinander. Genau das ist der Sprung von der Stichwort-Suche zur Bedeutungs-Suche.

Wir haben jetzt Vektoren. Aber wie misst man, ob zwei Vektoren „ähnlich“ sind? Die mit Abstand häufigste Antwort in der semantischen Suche heißt Cosine Similarity – die Kosinus-Ähnlichkeit. Sie schaut nicht darauf, wie lang die Vektoren sind, sondern in welche Richtung sie zeigen. Zwei Vektoren, die in dieselbe Richtung zeigen, sind sich ähnlich, egal wie lang sie sind.

Die Formel ist überschaubar:

cos(θ) = (A · B) / (‖A‖ × ‖B‖)

Im Zähler steht das Skalarprodukt (jede Komponente von A mal die passende Komponente von B, alles aufsummiert). Im Nenner stehen die Längen der beiden Vektoren multipliziert. Klingt abstrakt, also rechnen wir es einmal komplett durch. Ich nehme drei winzige, vereinfachte „Embeddings“ in nur drei Dimensionen:

• Hund = [2, 1, 0]
• Welpe = [2, 2, 0]
• Auto = [0, 1, 3]

Für Hund vs. Welpe: Skalarprodukt = (2×2) + (1×2) + (0×0) = 6. Länge von Hund = √(2²+1²+0²) = √5 ≈ 2,236. Länge von Welpe = √(2²+2²+0²) = √8 ≈ 2,828. Also cos(θ) = 6 / (2,236 × 2,828) ≈ 0,949.

Für Hund vs. Auto: Skalarprodukt = (2×0) + (1×1) + (0×3) = 1. Länge von Auto = √(0²+1²+3²) = √10 ≈ 3,162. Also cos(θ) = 1 / (2,236 × 3,162) ≈ 0,141.

Die Zahlen sprechen für sich:

Genau dieser eine Wert – eine Zahl zwischen 0 und 1 – ist das Herz jeder semantischen Suche. Eine Suchmaschine wandelt deine Anfrage in einen Vektor um, vergleicht ihn per Cosine Similarity mit Millionen Dokument-Vektoren und gibt die mit der höchsten Ähnlichkeit zurück. Keine Magie, nur Geometrie.

Man könnte Ähnlichkeit auch über den geradlinigen Abstand zweier Punkte messen (die euklidische Distanz – der „Luftlinien“-Abstand). Warum hat sich für Text trotzdem Cosine durchgesetzt?

Der Grund ist die Länge. Ein langer Ratgeber und ein kurzer Absatz können exakt dasselbe Thema behandeln, aber ihre Vektoren fallen unterschiedlich lang aus. Die euklidische Distanz würde die beiden dann als weiter entfernt einstufen, obwohl sie inhaltlich identisch sind. Cosine kümmert das nicht: Es misst nur den Winkel, also die Richtung der Bedeutung. Länge raus, Bedeutung rein.

Ein praktischer Nebenaspekt: Viele Embedding-Modelle geben bereits normalisierte Vektoren aus (alle auf Länge 1 gebracht). Bei normalisierten Vektoren fällt der Nenner der Cosine-Formel weg, und Cosine Similarity wird rechnerisch identisch zum Skalarprodukt. Deshalb siehst du in Vektordatenbanken oft „dot product“ als Distanzmaß – bei normalisierten Embeddings ist das schlicht die schnellere Variante derselben Sache.

BERT, 2018 von Google vorgestellt, war ein Durchbruch im Sprachverständnis. Aber für Ähnlichkeitsvergleiche hatte es einen fundamentalen Haken: Um zu bewerten, wie ähnlich sich zwei Sätze sind, musste man beide gemeinsam durch das Modell schicken. Das ist genau und teuer.

Wie teuer, haben Nils Reimers und Iryna Gurevych 2019 in ihrem Paper „Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks“ (EMNLP 2019) vorgerechnet: Den ähnlichsten Satz in einer Sammlung von 10.000 Sätzen zu finden, erforderte mit klassischem BERT laut den Autoren rund 50 Millionen Berechnungen – etwa 65 Stunden. Mit SBERT schrumpft dieselbe Aufgabe auf etwa 5 Sekunden, bei vergleichbarer Qualität.

Der Trick steckt in der Architektur. SBERT trainiert BERT in einem sogenannten Siamese-Netzwerk so um, dass jeder Satz für sich allein in einen aussagekräftigen Vektor übersetzt wird. Das ändert alles: Du kannst alle Dokument-Vektoren einmal vorab berechnen und speichern. Zur Suchzeit musst du nur noch die Anfrage in einen Vektor wandeln und per Cosine vergleichen. Aus „jedes Mal alles neu berechnen“ wird „einmal vorberechnen, dann blitzschnell vergleichen“.

Bi-Encoder vs. Cross-Encoder

Den Unterschied beschreibt man oft über zwei Begriffe:

In der Praxis kombiniert man beides: Der Bi-Encoder (SBERT) holt schnell die besten Kandidaten aus einer riesigen Menge, ein Cross-Encoder sortiert die wenigen Finalisten dann präzise nach. Aus dem ursprünglichen SBERT ist übrigens die Bibliothek sentence-transformers gewachsen – laut eigener Beschreibung das „go-to Python module“ für Embedding-Modelle, ursprünglich vom UKP Lab entwickelt und heute von Hugging Face gepflegt, mit über 10.000 vortrainierten Modellen.

Das Schöne an Embeddings: Du musst sie nicht glauben, du kannst sie ausprobieren. Ein minimaler, reproduzierbarer Mini-Workflow mit dem Standardmodell all-MiniLM-L6-v2 sieht so aus:

from sentence_transformers import SentenceTransformer, util

model = SentenceTransformer("all-MiniLM-L6-v2")

docs = ["Welpen richtig erziehen", "Hundefutter im Test", "Gebrauchtwagen kaufen"]
query = "Tipps für junge Hunde"

doc_emb = model.encode(docs)
q_emb = model.encode(query)

scores = util.cos_sim(q_emb, doc_emb)
print(scores)

Das Modell wandelt jeden Text in einen Vektor, util.cos_sim berechnet die Cosine Similarity, und du bekommst pro Dokument einen Ähnlichkeitswert. „Tipps für junge Hunde“ wird bei „Welpen richtig erziehen“ deutlich höher liegen als bei „Gebrauchtwagen kaufen“ – obwohl die Anfrage weder das Wort „Welpe“ noch „erziehen“ enthält. Das ist semantische Suche in zehn Zeilen.

In Produktion kommt eine Stufe dazu. Bei drei Dokumenten kannst du jeden Vektor einzeln vergleichen, bei Millionen wäre das zu langsam. Deshalb landen die Vektoren in einer Vektordatenbank, die mit einer Näherungssuche (Approximate Nearest Neighbor, ANN) arbeitet – statt jeden Vektor exakt zu prüfen, findet sie die wahrscheinlichsten Treffer über einen cleveren Index. Ein verbreiteter Index-Typ dafür ist HNSW.

Genau diesen Aufbau nutze ich für meine eigene SEO-Plattform Complex. Dort wird jede gecrawlte Seite einer Domain in Embeddings zerlegt – nicht nur ein Vektor pro Seite, sondern zusätzlich auf Absatz-Ebene (Chunks), damit auch einzelne Passagen gefunden werden. Die Vektoren liegen in einem HNSW-Index, und eine hybride Suche kombiniert die klassische Keyword-Suche mit dieser Vektor-Suche. Was mich beim Bauen am meisten überrascht hat: Wie oft die Vektor-Suche Dokumente findet, die thematisch perfekt passen, aber kein einziges Suchwort teilen. Das ist der Moment, in dem „Bedeutung statt Keywords“ vom Buzzword zur erlebbaren Mechanik wird.

Embeddings und SBERT sind kein akademisches Nischenthema mehr. Wie konkret die Technik im Anti-Spam-Bereich ankommt, zeigt ein aktuelles Paper aus dem Google-Research-Umfeld: „Scalable Detection of Adversarial Synthetic Slop and Coordinated Media Abuse: A LoRA-Enabled Multimodal Defense System“ von Abhinav Mathur, Claire Liu, Kelvin Tan und Yifei Liu (Google), aufbereitet unter anderem von Search Engine Journal am 19. Juni 2026.

Das beschriebene System (Scalable Cluster Termination System, kurz S-CTS) verfolgt einen anderen Ansatz als die übliche Inhalt-für-Inhalt-Prüfung. Statt einzelne Beiträge zu bewerten, identifiziert es Netzwerke koordinierter Accounts, die in Masse funktional identischen Spam in endlosen Varianten ausspielen. Im Paper heißt es wörtlich: „Traditional content-centric moderation fails against this coordinated, adversarial generation strategy.“ Übersetzt: Wer jeden einzelnen Inhalt prüft, verliert gegen Gegner, die unendlich viele leicht abgewandelte Versionen produzieren.

Und hier kommt Sentence-BERT ins Spiel. Für die Textanalyse schreiben die Autoren: „For text-based content, methods like text embeddings generated by models like Sentence-BERT are used to detect scripted AI narratives.“ Die Annahme dahinter: Maschinell erzeugter Text hinterlässt einen messbaren mathematischen Fingerabdruck in den Embeddings. Dazu kommen eine schnelle Anpassung an neue Generatoren über Low-Rank Adaptation (LoRA) und automatische Prompt-Optimierung.

Was bleibt als belastbare Erkenntnis? Embeddings sind nachweislich Teil des Werkzeugkastens, mit dem Google-Forscher KI-Inhalte einordnen. Das passt zu dem, was ich an anderer Stelle ausführlicher beschreibe – nämlich wie Google KI-Texte bewertet und dass die Bedeutungs-Ebene dabei eine zentrale Rolle spielt. Wie BERT-artige Modelle generell im Verständnis von Suchanfragen mitwirken, habe ich im Beitrag zum Query Processing auseinandergenommen, und die größere Ranking-Architektur drumherum im Überblick zu Googles KI-Ranking-System.

Aus der Mechanik lassen sich ein paar nüchterne Konsequenzen ableiten – bewusst ohne Erfolgsversprechen, denn Rankings hängen von vielen Faktoren ab:

• Eindeutigkeit schlägt Keyword-Wiederholung. Wenn dein Text thematisch klar ist, zeigt sein Vektor sauber in eine Richtung. Ein Text, der zwischen fünf Themen springt, erzeugt einen verwaschenen Mittelwert-Vektor, der zu nichts richtig passt.
• Synonyme und Konzepte statt Wortwiederholung. Da Bedeutung und nicht Wortgleichheit zählt, brauchst du ein Keyword nicht 20-mal. Decke das Konzept mit seinen verwandten Begriffen, Unterfragen und Entitäten ab.
• Passagen zählen einzeln. Weil Embeddings oft auf Chunk-Ebene gebildet werden, kann ein einzelner starker Absatz gefunden werden. Jeder Abschnitt sollte für sich genommen eine klare Teilfrage beantworten.
• Dünner KI-Einheitsbrei ist riskant. Wenn maschineller Text einen mathematischen Fingerabdruck hat und Massen-Spam über Ähnlichkeits-Cluster auffliegt, ist austauschbarer Content nach meiner Einschätzung die schwächere Wette – unabhängig davon, ob ein Mensch oder eine KI ihn getippt hat.

Keine dieser Empfehlungen ist neu, aber die Vektor-Perspektive erklärt endlich das Warum dahinter. Gutes SEO und gute Embedding-Hygiene laufen auf dasselbe hinaus: ein Thema klar, tief und eigenständig behandeln.

Der ganze Zauber um „Bedeutung statt Keywords“ löst sich auf, sobald man die Mechanik kennt. Embeddings übersetzen Sprache in Geometrie, Cosine Similarity misst Nähe im Bedeutungsraum, und SBERT hat diesen Vergleich von stundenlang auf sekundenschnell gedrückt. Dieselbe Technik, mit der ich meine eigene Such-Pipeline betreibe, taucht heute in der Google-Forschung gegen KI-Spam auf – ein guter Beleg dafür, dass sich das Verständnis lohnt.

Für dein SEO ändert das weniger die Taktik als die Begründung: Tiefe, Eindeutigkeit und eigenständige Inhalte gewinnen, weil sie im Vektorraum klar verortet sind. Den weiterführenden Blick auf Entitäten und den Knowledge Graph findest du in meinem Beitrag zur semantischen Suche und dem Knowledge Graph.