RAGの「毎回検索」をやめる — Pinecone Nexusが持ち込む"コンパイル型"の知識エンジン

RAG（検索拡張生成）には、地味だが根深い無駄がある。エージェントが何かを判断するたびに、同じような文書を毎回ベクトル検索で引っ張ってきては、その場でLLMに読ませる。似た問い合わせが100回来れば、ほぼ同じ検索と読み込みを100回繰り返す。当然、そのたびにトークンを食い、レイテンシも積み上がる。

ベクトルデータベースの代名詞ともいえるPineconeが、この構造そのものに手を入れてきた。7月1日、同社は「エージェント向けの知識エンジン」Pinecone Nexusをパブリックプレビューとして公開した。InfoQ、KMWorldなどが報じている。

キャッチコピーは「reasoning from retrieval to compilation（リトリーブから、コンパイルへ）」。RAGの前提を静かに書き換えにいく、なかなか挑発的な打ち出しだ。

「毎回引く」から「一度作る」へ

Nexusの発想はこうだ。企業の中に散らばった文書を、その都度検索するのではなく、あらかじめ構造化された知識レイヤーにコンパイルしておく。エージェントはそのレイヤーに直接問い合わせる。

コンパイルを担うのが「Context Compiler」と呼ばれる仕組みで、生の文書群を一度だけ丁寧に整理し、再利用可能な知識に変換する。従来のRAGが「クエリのたびに毎回コストを払う」のに対し、Nexusは「最初の一回だけキュレーションにコストを払い、あとは安く速く引ける」構造になっている。プログラミングでいう、毎回インタプリタで解釈するのか、一度コンパイルして実行ファイルにしておくのか、の違いに近い。

そしてエージェントがこの知識レイヤーに問い合わせるための専用言語が用意されている。KnowQLだ。SQLがデータベースへの標準的な問い合わせ言語であるように、KnowQLを「エージェントのための知識クエリ言語」に据えようという狙いが透けて見える。

主張されている数字

Pineconeが公表している効果は、正直かなり強気だ。

• タスク完了率が90%超
• 完了までの時間が最大30倍高速
• トークン消費が最大90%削減

数字だけ見ると「本当か？」と身構える。とはいえ、理屈の上では筋は通っている。毎回のリトリーブとLLM再読み込みをやめて、事前にコンパイルした構造化知識を引くだけにすれば、トークンもレイテンシも大きく削れるのは自然だ。問題は「最大」という但し書きで、この数字がどんな条件で出たものかは実運用で確かめるしかない。ここは鵜呑みにせず、自分のユースケースで測るべきところだろう。

プレビューと同時に揃えてきた実務装備

今回のパブリックプレビューは、単なる技術デモではなく、使わせにいく気配が濃い。

料金面では月額20ドル（約3,000円）の「Builder」ティアが新設された。個人開発者や小さめのチームが試せる価格帯だ。加えて、ネイティブの全文検索プレビュー、ドイツとシンガポールの新リージョン、そしてBox・Unstructured・Teradata・LlamaIndexといった顔ぶれを揃えたパートナーマーケットプレイスも同時に発表されている。

とくにLlamaIndexやUnstructuredのようなデータ取り込み系との連携は、「散らばった社内文書をどうNexusに流し込むか」という現実的な課題に直結する。コンパイル型の知識エンジンは、入り口のデータパイプラインが整っていないと真価を発揮しない。そこを最初から手当てしてきたのは、実務を分かっている動きだ。

これで何が変わりうるか

Nexusが目指す世界がうまく回り始めると、エージェント開発の勘所が一つずれる。

これまでは「いかに賢く検索するか（リトリーブの精度）」がRAGの腕の見せどころだった。Nexusの世界では、そこが「いかに良い知識レイヤーをコンパイルしておくか（キュレーションの質）」に移る。運用の重心が、リアルタイムの検索チューニングから、事前の知識整備へと前倒しされるわけだ。

これは、社内に大量のドキュメントを抱える企業ほど効いてくる。たとえば数万件の製品マニュアルやサポート履歴を一度コンパイルしておけば、カスタマーサポートのエージェントが毎回それを検索し直す必要がなくなる。応答が速くなるだけでなく、月々のトークン費用が読みやすくなる——「使うほど従量課金が膨らむ」RAGの悩みが、「最初にまとめて払う」形に変わる可能性がある。運用コストの予測しやすさは、地味だが企業導入では大きな判断材料になる。

冷静に見るなら

一方で、コンパイル型には固有の弱点もある。

最大の懸念は鮮度だ。知識を事前にコンパイルする以上、元の文書が更新されたときに、その変更がどれだけ速く知識レイヤーに反映されるかが問われる。頻繁に情報が変わるドメイン（在庫、価格、最新ニュースなど）では、コンパイルの再実行コストと鮮度のトレードオフがそのまま課題になる。ここをNexusがどう捌くのかは、現時点の情報だけでは読み切れない。

もう一つ、KnowQLという新しい問い合わせ言語を覚えるコストも無視できない。標準になれば強いが、ならなければ「Pinecone独自の方言」で終わるリスクもある。ベンダーロックインを気にする開発者にとっては、ここは慎重に見る点だろう。

それでも、「RAGは毎回検索するもの」という当たり前を疑ってみせた点で、Nexusは面白い。エージェントを本格運用に載せようとして、トークン費用とレイテンシに頭を悩ませているチームなら、20ドルのBuilderティアで一度試す価値はある。詳細はPinecone公式ブログで確認できる。