Langkau ke kandungan
cd /blog

Mengapa Kami Menaik Taraf Carian Kod kepada voyage-4-large

[Embedding][Carian][Seni Bina]

> Kami mengalihkan embeddings kod kami kepada voyage-4-large — kini berada di puncak leaderboard pengambilan kod RTEB awam. Versi jujurnya: trade yang kami buat, apa yang benar-benar kami indeks, dan mengapa kami membayar untuk embeddings premium.

Angka penanda aras dalam penulisan ini mencerminkan leaderboard RTEB pada masa penerbitan (Jun 2026). Leaderboard berubah; anggap kedudukan itu sebagai satu cebisan masa, bukan fakta kekal.

Carian semantik hanya sebaik embeddings yang mendasarinya.

Apabila seorang ejen bertanya kepada Maguyva “di mana kita mengendalikan retry,” ia bukan sedang meng-grep perkataan “retry.” Ia sedang bertanya untuk makna — gelung backoff, circuit breaker, benda yang membalut panggilan yang tidak stabil. Soalan itu dijawab oleh satu model vektor yang mengubah kod menjadi satu titik dalam ruang dan mencari jirannya. Pilih model yang lebih baik dan setiap pertanyaan semantik dalam produk itu secara senyap menjadi lebih tajam.

Jadi kami menukar embeddings kami. Setakat Jun 2026, embeddings kod Maguyva berjalan pada voyage-4-large, menggantikan voyage-code-3.

Penanda Aras Itu

Kami tidak membuat keputusan ini berdasarkan perasaan semata-mata. Retrieval Embedding Benchmark (RTEB) yang bersifat awam menyusun kedudukan model embedding berdasarkan tugasan pengambilan sebenar, dan pada leaderboard Code miliknya voyage-4-large berada pada #1 keseluruhan (90.86) — mendahului gemini-embedding-2-preview (90.26) dan, yang lebih penting, mendahului model yang telah kami gunakan, voyage-code-3 (89.73, #3).

Itu adalah jurang mutlak yang kecil. Tetapi ia adalah jurang pada arah yang betul, pada satu penanda aras awam, pada tugasan tepat yang kami pedulikan: mengambil kod berdasarkan makna.

Trade Yang Kami Terima: Binary Quantization

Inilah bahagian yang biasanya ditinggalkan oleh kebanyakan penulisan jenis “kami menaik taraf model kami.”

Maguyva tidak menyimpan vektor kejituan penuh. Kami menyimpan embeddings yang binary-quantized: setiap vektor berdimensi 2048 runtuh menjadi satu signature 2048-bit — 256 byte setiap vektor. Signature itu dicari menggunakan jarak Hamming, diindeks dan dipartisikan mengikut tenant.

Itu adalah trade yang sengaja. Binary quantization mengorbankan sedikit ketepatan pengambilan sebagai pertukaran untuk storan yang jauh lebih kecil dan matematik jarak yang pantas, murah, tanpa pangkalan data vektor berasingan untuk dikendalikan. Untuk sesuatu produk yang mengindeks keseluruhan repositori setiap workspace, ekonomi itu lebih penting daripada memerah pecahan terakhir sesuatu titik penanda aras.

voyage-4-large sesuai dengan reka bentuk ini tanpa memaksa migrasi lapisan storan: ia menghasilkan output berdimensi 2048, sama seperti voyage-code-3, jadi lajur bit(2048) kami dan laluan carian Hamming tidak berubah. Modelnya menjadi lebih baik; skemanya kekal sama.

Kod Hanyalah Permulaan

Maguyva adalah satu alat code-intelligence. Tetapi kami juga customer zero, dan kami menghalakannya kepada sesuatu yang lain: markdown yang hidup dalam repositori kami di sebelah kod. Rekod keputusan seni bina, runbook, kontrak, dokumen kewangan dan polisi — kesemuanya dikawal versi dalam Git, kesemuanya di sebalik MCP server yang sama, satu indeks semantik terhadap dokumen, bukan sekadar kod sumber.

Itulah tepat sebabnya keluasan voyage-4-large itu penting. Pada keluarga leaderboard RTEB yang sama ia berada pada #1 untuk kewangan, #1 untuk penjagaan kesihatan, dan #1 untuk pengambilan teks keseluruhan — mendahului Gemini Embedding milik Google, Embed v4 milik Cohere, dan text-embedding-3-large milik OpenAI. (Voyage adalah salah satu pencipta bersama RTEB, jadi kami membacanya sebagai satu isyarat awam yang kuat berbanding pengadil yang sepenuhnya neutral — tetapi ia dibandingkan bersemuka dengan setiap model komersial utama, pada set hold-out peribadi.) Indeks yang sama yang menemui fungsi yang tepat untuk seorang ejen turut menemui klausa yang tepat dalam sesuatu kontrak atau baris yang tepat dalam sesuatu polisi — dan pada domain-domain itu, voyage-4-large bukan satu kompromi, ia adalah peneraju.

Mengapa Kami Membayar Untuk Embeddings Premium

Terdapat cara yang lebih murah untuk melakukan carian, dan kebanyakannya percuma. Carian leksikal — BM25 dan seangkatan dengannya — memadankan kata kunci, berjalan secara setempat, dan tidak menelan sebarang kos. Model embedding sumber terbuka seperti BGE, Nomic, dan embeddinggemma memberikan pengambilan semantik yang lumayan secara tulen, dan anda boleh self-host ia dengan harga sebiji GPU. Maguyva turut menggunakan sisi percuma itu: setiap pertanyaan menggabungkan carian text, AST, graph, dan semantic. Apa yang kami tidak berjimat cermat ialah lapisan semantik.

Kami membayar setiap token untuk embeddings premium — voyage-4-large — selain self-hosting satu model percuma, atas dua sebab. Pertama, carian kata kunci sahaja tidak dapat menjawab “di mana kita mengendalikan retry” apabila kod itu menyebut backoff dan circuit breaker dan tidak pernah menyebut perkataan “retry” — makna adalah keseluruhan intipati embedding, dan pada domain yang kami khidmati model terbuka ketinggalan berbanding model premium: beberapa mata ketinggalan pada teks umum, dan lebih jauh ketinggalan dalam ceruk seperti kod, kontrak, dan kewangan. Kedua, dalam pengalaman kami kualiti pengambilan membentuk jawapan akhir lebih daripada model di hujung sana — seorang ejen yang kuat yang diberikan konteks yang salah masih menjawab dengan salah, dan ia tidak pernah melihat dokumen yang tidak pernah diberikan kepadanya.

Jadi embeddings premium adalah bil setiap token yang berskala dengan setiap repositori dan dokumen yang kami indeks — dan kami membayarnya dengan sengaja. Untuk hasil yang diperoleh pengguna kami, fungsi yang tepat atau klausa yang tepat, kami rasa trade itu berbaloi.

Bahagian Jujurnya

Dokumentasi Voyage sendiri masih melabelkan voyage-code-3 sebagai model yang dioptimumkan untuk kod. Jadi mengapa beralih?

Kerana kami membaca penanda aras awam, bukan sekadar jadual model vendor, dan penanda aras itu meletakkan voyage-4-large di atas untuk pengambilan kod. Ini adalah satu keputusan yang berpandangan jauh: ambil model yang lebih baharu, secara umumnya lebih kuat, dan sahkannya berbanding leaderboard awam pada tugasan yang penting. Kami selesa membuat pertaruhan itu kerana buktinya luas — voyage-4-large bukan sahaja menang pada kod, ia turut mendahului pada kewangan, penjagaan kesihatan, dan pengambilan keseluruhan.

Lantai Yang Senyap

Setiap tool yang kami dedahkan — carian semantik, pengumpulan konteks tugas, soal jawab berasaskan bukti — akhirnya bergantung kepada retrieval. Apabila retriever bertambah baik, ejen di hujung sana mendapat bukti yang lebih baik, membuat lebih sedikit pusingan yang salah, dan mengasaskan jawapannya pada kod yang tepat — atau klausa yang tepat, atau polisi yang tepat. Model embedding yang lebih tajam bukan satu ciri yang bergemerlapan. Ia adalah lantai di bawah segala-galanya yang lain, dan kami baru sahaja meninggikannya. Anda tidak akan perasan. Itulah intipatinya.

Bacaan berkaitan

Lagi daripada log pembinaan Maguyva