Hopp til innhold
cd /blog

Hvorfor vi oppgraderte kodesøk til voyage-4-large

[Embeddings][Søk][Arkitektur]

> Vi flyttet kode-embeddingene våre til voyage-4-large — for tiden på topp på den offentlige RTEB-rangeringen for kode-retrieval. Den ærlige versjonen: kompromisset vi tar, hva vi faktisk indekserer, og hvorfor vi betaler for premium embeddings.

Benchmark-tallene i dette innlegget gjenspeiler RTEB-rangeringene ved publisering (juni 2026). Rangeringer endrer seg; behandle dem som et øyeblikksbilde, ikke et permanent faktum.

Semantisk søk er bare så godt som embeddingene under det.

Når en agent spør Maguyva «hvor håndterer vi retries», grepper den ikke etter ordet «retry». Den spør etter meningen — backoff-løkken, circuit breakeren, det som pakker inn et ustabilt kall. Det spørsmålet besvares av en vektormodell som gjør kode om til et punkt i rommet og finner naboene. Velg en bedre modell, og hvert semantiske søk i produktet blir stille skarpere.

Så vi byttet vår. Fra og med juni 2026 kjører Maguyvas kode-embeddinger på voyage-4-large, som erstatter voyage-code-3.

Benchmarken

Vi tok ikke denne avgjørelsen på magefølelse. Den offentlige Retrieval Embedding Benchmark (RTEB) rangerer embedding-modeller på reelle retrieval-oppgaver, og på Code-rangeringen ligger voyage-4-large1. plass totalt (90,86) — foran gemini-embedding-2-preview (90,26) og, bemerkelsesverdig nok, foran modellen vi allerede brukte, voyage-code-3 (89,73, 3. plass).

Det er et lite absolutt gap. Men det er et gap i riktig retning, på en offentlig benchmark, på nøyaktig den oppgaven vi bryr oss om: å hente kode etter mening.

Kompromisset vi aksepterer: Binær kvantisering

Her er delen de fleste «vi oppgraderte modellen vår»-innlegg utelater.

Maguyva lagrer ikke fullpresisjonsvektorer. Vi lagrer binært kvantiserte embeddinger: hver 2048-dimensjonale vektor kollapses til en 2048-bits signatur — 256 byte per vektor. Disse signaturene søkes med Hamming-avstand, indeksert og partisjonert per tenant.

Det er et bevisst kompromiss. Binær kvantisering gir opp noe retrieval-presisjon til fordel for dramatisk mindre lagring og rask, billig avstandsmatematikk uten en separat vektordatabase å drifte. For et produkt som indekserer hele repositorier per arbeidsområde, betyr den økonomien mer enn å presse ut den siste brøkdelen av et benchmark-poeng.

voyage-4-large passer inn i dette designet uten å tvinge frem en migrering av lagringslaget: den produserer 2048-dimensjonalt output, akkurat som voyage-code-3, så bit(2048)-kolonnene våre og Hamming-søkestien endret seg ikke. Modellen ble bedre; skjemaet ble stående.

Kode var bare starten

Maguyva er et kodeintelligens-verktøy. Men vi er også vår egen første kunde, og vi peker det mot noe annet: markdown-en som lever i repositoriene våre ved siden av koden. Arkitekturbeslutningsjournaler, runbooks, kontrakter, finans- og policydokumenter — alt versjonskontrollert i Git, alt bak den samme MCP-serveren, en semantisk indeks over dokumentene, ikke bare kildekoden.

Det er nettopp derfor bredden til voyage-4-large betyr noe. På den samme RTEB-familien av rangeringer er den nummer 1 på finans, nummer 1 på helsevesen, og nummer 1 på generell tekstretrieval — foran Googles Gemini Embedding, Coheres Embed v4, og OpenAIs text-embedding-3-large. (Voyage er medskaper av RTEB, så vi leser det som et sterkt offentlig signal snarere enn en perfekt nøytral dommer — men den er benchmarket hode mot hode mot alle de store kommersielle modellene, på private holdout-sett.) Den samme indeksen som finner riktig funksjon for en agent, finner riktig klausul i en kontrakt eller riktig linje i en policy — og på de domenene er ikke voyage-4-large et kompromiss, det er lederen.

Hvorfor vi betaler for premium embeddinger

Det finnes en billigere måte å gjøre søk på, og mye av det er gratis. Leksikalsk søk — BM25 og dets slektninger — matcher nøkkelord, kjører lokalt, og koster ingenting. Åpen kildekode-embeddingmodeller som BGE, Nomic, og embeddinggemma gir genuint anstendig semantisk retrieval, og du kan selv-hoste dem for prisen av en GPU. Maguyva bruker også den gratis siden: hvert søk fusjonerer tekst-, AST-, graf- og semantisk søk. Det vi ikke sparer på, er det semantiske laget.

Vi betaler per token for premium embeddinger — voyage-4-large — i stedet for å selv-hoste en gratis modell, av to grunner. For det første kan nøkkelordsøk alene ikke svare på «hvor håndterer vi retries» når koden sier backoff og circuit breaker og aldri sier ordet «retry» — mening er hele poenget med embeddingen, og på domenene vi betjener, ligger de åpne modellene bak de premium: et par poeng bak på generell tekst, og enda lenger bak i nisjer som kode, kontrakter, og finans. For det andre former retrieval-kvalitet, etter vår erfaring, det endelige svaret mer enn modellen i den andre enden gjør — en sterk agent som får feil kontekst, svarer fortsatt feil, og den ser aldri dokumentet den aldri ble gitt.

Så premium embeddinger er en per-token-regning som skalerer med hvert repo og dokument vi indekserer — og vi betaler den med vilje. For resultatet brukerne våre får, riktig funksjon eller riktig klausul, mener vi det kompromisset er verdt det.

Den ærlige delen

Voyages egen dokumentasjon merker fortsatt voyage-code-3 som den kodeoptimaliserte modellen. Så hvorfor bytte?

Fordi vi leste den offentlige benchmarken, ikke bare leverandørens modelltabell, og benchmarken satte voyage-4-large på topp for koderetrieval. Dette var en fremtidsrettet avgjørelse: ta den nyere, generelt sterkere modellen og valider den mot en offentlig rangering på oppgavene som betyr noe. Vi er komfortable med å ta det veddemålet fordi bevisene er brede — voyage-4-large vinner ikke bare på kode, den leder også på finans, helsevesen, og generell retrieval.

Det stille fundamentet

Hvert verktøy vi eksponerer — semantisk søk, innsamling av oppgavekontekst, faktabasert Q&A — bunner i retrieval. Når retrieveren forbedres, får agenten i den andre enden bedre bevis, tar færre feilsteg, og forankrer svarene sine i riktig kode — eller riktig klausul, eller riktig policy. En skarpere embeddingmodell er ikke en flashy funksjon. Det er fundamentet under alt annet, og vi har nettopp hevet det. Du vil ikke merke det. Det er poenget.

Relatert lesning

Mer fra Maguyva-byggeloggen