NVIDIA H100の20倍速い推論チップが登場 — Etched「Sohu」というTransformer専用の賭け

Transformerしか動かないチップが、NVIDIAを脅かしている。

6月30日、Cupertino拠点のスタートアップEtchedがステルスモードを脱出した。開発したのは「Sohu」というAI推論専用のASIC（特定用途向け集積回路）。Transformerアーキテクチャの推論処理に完全特化した設計で、NVIDIA H100と比べて20倍の推論速度を実現すると主張している。

評価額は$5B（約8,050億円）。累計調達額$800M（約1,288億円）。そして、すでに$1B（約1,610億円）超の顧客契約を獲得済みだ。

「何でもできる」を捨てた設計

NVIDIAのGPUは汎用的だ。訓練にも推論にも使えるし、Transformerでもそうでないモデルでも動かせる。その汎用性がNVIDIAの強みだが、裏を返せば「特定の処理に最適化しきれない」ということでもある。

Etchedはその隙を突いた。SohuはTransformerの推論だけに特化したASICだ。GPT、Claude、Llama、Gemini — 現在の主要LLMはすべてTransformerベース。「いま最も需要がある処理に100%最適化する」という設計判断である。

数字で見ると効果は明確だ。8基のSohuチップを搭載したサーバーは、Llama 70Bで毎秒50万トークンを処理できるとしている。同じモデルでH100は毎秒約2.3万トークン。単純比較で約22倍の差になる。TSMCの4nmプロセスで製造され、消費電力もH100より低いという。

ハーバード中退組の挑戦

創業者はGavin UbertiとChris Zhuの2人。ハーバード大学を中退してCupertinoでEtchedを立ち上げた。大学を辞めてNVIDIAに挑むというストーリー自体はシリコンバレーらしいが、$1B超の受注契約はただの野心では終わらないことを示している。

2026年夏に最初のラックが出荷予定で、すでに顧客への納品準備が進んでいる。

明確な弱点

率直に言って、リスクは大きい。

最大の制約は、Transformerアーキテクチャのモデルしか動かせないことだ。もしAI業界がTransformerに代わるアーキテクチャに移行すれば、Sohuは一夜にして価値を失う可能性がある。State Space Models（SSM）やMambaのようなTransformer代替の研究は着実に進んでおり、これは絵空事ではない。

NVIDIAのGPUなら、モデルアーキテクチャが変わっても対応できる。Sohuにはその柔軟性がない。

もうひとつ、推論専用なのでモデルの訓練には使えない。訓練と推論の両方を1つのインフラでカバーしたい企業にとっては、NVIDIAのGPUの方が扱いやすい面もある。

推論コスト競争の行方

個人的には、この「Transformer専用」という割り切りは合理的だと思う。

2026年時点で商用利用されているAIモデルの大半はTransformerベースだ。推論需要は爆発的に増えており、コスト削減は全てのAI企業にとって最優先課題になっている。OpenAIがJalapenoを作り、GoogleがTPUを進化させているのも同じ理由だ。

Sohuが本当にH100の20倍の効率を出せるなら、推論コストの劇的な低下が期待できる。APIの利用料金が下がり、より多くのスタートアップがLLMを安価に運用できる未来が見えてくる。

ただし「20倍」はEtched自身の主張であり、独立した第三者によるベンチマークはまだ公開されていない。実運用でどこまでの性能が出るかは、夏の出荷後の検証を待つ必要がある。

AI推論チップの競争はNVIDIA一強から群雄割拠の時代に入りつつある。Etched、Cerebras、Groq、そしてOpenAIやGoogleの自社チップ。Sohuがその中でどこまで存在感を示せるか、最初のラック出荷後の評判が試金石になるだろう。