Warum wir unsere Code-Suche auf voyage-4-large upgegradet haben

Die Benchmark-Zahlen in diesem Beitrag spiegeln die RTEB-Ranglisten zum Veröffentlichungszeitpunkt (Juni 2026) wider. Ranglisten verändern sich; betrachte die Platzierungen als Momentaufnahme, nicht als dauerhafte Tatsache.

Semantische Suche ist immer nur so gut wie die Embeddings, die ihr zugrunde liegen.

Wenn ein Agent Maguyva fragt, “wo behandeln wir Retries”, durchsucht er nicht per grep nach dem Wort “retry”. Er fragt nach der Bedeutung – der Backoff-Schleife, dem Circuit Breaker, dem Ding, das einen instabilen Aufruf umhüllt. Diese Frage wird von einem Vektormodell beantwortet, das Code in einen Punkt im Raum verwandelt und dessen Nachbarn findet. Wähle ein besseres Modell, und jede semantische Abfrage im Produkt wird still und leise präziser.

Also haben wir unseres geändert. Seit Juni 2026 laufen die Code-Embeddings von Maguyva auf voyage-4-large und ersetzen voyage-code-3.

Der Benchmark

Wir haben diese Entscheidung nicht aus dem Bauch heraus getroffen. Der öffentliche Retrieval Embedding Benchmark (RTEB) bewertet Embedding-Modelle anhand realer Retrieval-Aufgaben, und auf seiner Code-Rangliste steht voyage-4-large auf Platz 1 insgesamt (90,86) – vor gemini-embedding-2-preview (90,26) und, bemerkenswerterweise, vor dem Modell, das wir zuvor verwendet haben, voyage-code-3 (89,73, Platz 3).

Das ist eine kleine absolute Differenz. Aber es ist eine Differenz in die richtige Richtung, auf einem öffentlichen Benchmark, bei genau der Aufgabe, die uns wichtig ist: Code anhand seiner Bedeutung wiederzufinden.

Der Kompromiss, den wir eingehen: Binäre Quantisierung

Das ist der Teil, den die meisten “Wir haben unser Modell aktualisiert”-Beiträge auslassen.

Maguyva speichert keine Vektoren in voller Präzision. Wir speichern binär quantisierte Embeddings: Jeder 2048-dimensionale Vektor wird zu einer 2048-Bit-Signatur komprimiert – 256 Byte pro Vektor. Diese Signaturen werden per Hamming-Distanz durchsucht, indiziert und pro Mandant partitioniert.

Das ist ein bewusster Kompromiss. Binäre Quantisierung gibt einen Teil der Retrieval-Präzision auf, im Austausch für drastisch kleineren Speicherbedarf und schnelle, günstige Distanzberechnungen, ohne eine separate Vektordatenbank zu betreiben. Für ein Produkt, das ganze Repositories pro Workspace indiziert, zählt diese Wirtschaftlichkeit mehr, als den letzten Bruchteil eines Benchmark-Punkts herauszupressen.

voyage-4-large fügt sich in dieses Design ein, ohne eine Migration der Speicherschicht zu erzwingen: Es erzeugt eine 2048-dimensionale Ausgabe, genau wie voyage-code-3, sodass sich unsere bit(2048)-Spalten und der Hamming-Suchpfad nicht geändert haben. Das Modell wurde besser; das Schema blieb, wie es war.

Code war nur der Anfang

Maguyva ist ein Code-Intelligence-Tool. Aber wir sind auch Kunde Nummer eins und richten es auch auf etwas anderes: das Markdown, das in unseren Repos neben dem Code liegt. Architekturentscheidungsprotokolle, Runbooks, Verträge, Finanz- und Richtliniendokumente – alles versionskontrolliert in Git, alles hinter demselben MCP-Server, ein semantischer Index über die Dokumente, nicht nur über den Quellcode.

Genau deshalb zählt die Breite von voyage-4-large. Auf derselben RTEB-Familie von Ranglisten steht es auf Platz 1 im Bereich Finanzen, Platz 1 im Bereich Gesundheitswesen und Platz 1 beim gesamten Text-Retrieval – vor Gemini Embedding von Google, Embed v4 von Cohere und text-embedding-3-large von OpenAI. (Voyage ist Mitentwickler von RTEB, daher lesen wir das als starkes öffentliches Signal, nicht als perfekt neutralen Schiedsrichter – aber es wird direkt gegen jedes große kommerzielle Modell auf privaten Hold-out-Datensätzen gemessen.) Derselbe Index, der für einen Agenten die richtige Funktion findet, findet auch die richtige Klausel in einem Vertrag oder die richtige Zeile in einer Richtlinie – und in diesen Bereichen ist voyage-4-large kein Kompromiss, sondern der Spitzenreiter.

Warum wir für Premium-Embeddings bezahlen

Es gibt einen günstigeren Weg, Suche zu betreiben, und vieles davon ist kostenlos. Lexikalische Suche – BM25 und Verwandte – gleicht Schlüsselwörter ab, läuft lokal und kostet nichts. Open-Source-Embedding-Modelle wie BGE, Nomic und embeddinggemma liefern durchaus ordentliches semantisches Retrieval, und man kann sie zum Preis einer GPU selbst hosten. Maguyva nutzt auch die kostenlose Seite: Jede Abfrage vereint Text-, AST-, Graph- und semantische Suche. Wo wir nicht sparen, ist bei der semantischen Schicht.

Wir bezahlen pro Token für Premium-Embeddings – voyage-4-large – statt ein kostenloses Modell selbst zu hosten, aus zwei Gründen. Erstens kann reine Schlüsselwortsuche die Frage “wo behandeln wir Retries” nicht beantworten, wenn der Code backoff und circuit breaker sagt und nie das Wort “retry” verwendet – Bedeutung ist der ganze Sinn des Embeddings, und in den Bereichen, die wir bedienen, liegen die offenen Modelle hinter den Premium-Modellen zurück: ein paar Punkte bei allgemeinem Text, und noch weiter zurück in Nischen wie Code, Verträgen und Finanzen. Zweitens prägt Retrieval-Qualität unserer Erfahrung nach die finale Antwort stärker als das Modell am anderen Ende – ein starker Agent, dem der falsche Kontext gegeben wird, antwortet trotzdem falsch, und er sieht nie das Dokument, das ihm nie gegeben wurde.

Premium-Embeddings sind also eine Pro-Token-Rechnung, die mit jedem Repo und Dokument skaliert, das wir indizieren – und wir bezahlen sie bewusst. Für das Ergebnis, das unsere Nutzer bekommen, die richtige Funktion oder die richtige Klausel, ist uns dieser Kompromiss das wert.

Der ehrliche Teil

Die Dokumentation von Voyage selbst führt voyage-code-3 nach wie vor als das code-optimierte Modell. Warum also wechseln?

Weil wir den öffentlichen Benchmark gelesen haben, nicht nur die Modelltabelle des Anbieters, und der Benchmark hat voyage-4-large beim Code-Retrieval an die Spitze gesetzt. Das war eine vorausschauende Entscheidung: das neuere, insgesamt stärkere Modell nehmen und es anhand eines öffentlichen Leaderboards bei den Aufgaben validieren, auf die es ankommt. Wir sind mit dieser Wette wohl, weil die Evidenz breit ist – voyage-4-large gewinnt nicht nur bei Code, es führt auch bei Finanzen, Gesundheitswesen und Gesamt-Retrieval.

Der stille Boden

Jedes Tool, das wir bereitstellen – semantische Suche, das Sammeln von Task-Kontext, quellenbelegte Fragen und Antworten – läuft letztlich auf Retrieval hinaus. Wenn sich der Retriever verbessert, bekommt der Agent am anderen Ende bessere Belege, macht weniger Fehltritte und verankert seine Antworten im richtigen Code – oder in der richtigen Klausel, oder in der richtigen Richtlinie. Ein schärferes Embedding-Modell ist kein spektakuläres Feature. Es ist der Boden unter allem anderen, und wir haben ihn gerade angehoben. Du wirst es nicht bemerken. Das ist der Punkt.