Mac一台でLLMを丸ごと手元に — M6とM5 UltraがローカルAIに足したもの

新しいチップが出るたびに「CPUが何%速くなった」という話が並ぶ。Apple製シリコンはもう十分に速いので、正直そこはあまり心が動かない。今回のM6とM5 Ultraで気になったのは別のところだ。手元のMacで、どれくらい大きな言語モデルを、どれくらい快適に動かせるようになるのか。この一点である。

Appleは8月25日、Apple初の2nmプロセスで作られた「M6」と、同社が「過去最強」と呼ぶ「M5 Ultra」を発表した。M6搭載のMac mini（899ドル〜）とM5 Ultra搭載のMac Studio（5,499ドル〜）は、いずれも9月22日出荷予定だ。

M6は「速い」より「頭打ち」の話

M6のスペックは、12コアCPU・12コアGPU、そしてデュアル16コアNeural Engineという構成。Appleはこのデュアル構成でAI演算のピーク性能が世代比で最大2倍になり、システム側が2基のエンジンを自動で同時に使うため、アプリのAI処理が速くなるとしている。AI向けのGPU演算はM5比で約30%増、M1比では8倍超。これによりオンデバイスLLMの「プロンプト処理（読み込み）」が速くなる、というのが公式の説明だ。

数字だけ見ると順当な進化に見える。ただ、ローカルLLMを動かす人間の視点で気になるのはメモリのほうだ。M6のユニファイドメモリは最大32GBまで、帯域は最大170GB/s（M5比+10%）。演算は8倍になっても、載せられるメモリの上限は据え置きに近い。

ローカルでモデルを動かすとき、まず効いてくるのは演算力ではなくメモリ容量だ。モデルの重みがメモリに載らなければ、そもそも動かない。32GBという天井は、量子化した中規模モデル（十数B〜30B級）までは現実的だが、それ以上を丸ごと載せるにはやはり足りない。M6のMac miniは基本構成が16GB・256GB SSDからで、この価格帯のマシンとしてストレージとメモリが窮屈だという指摘も出ている。M6は「日常のAI処理をキビキビさせるチップ」であって、「巨大モデルを手元で回すチップ」ではない。ここは正直に分けて考えたほうがいい。

M5 Ultraが変えたのは「載る量」

対して本題はM5 Ultraのほうだ。これは2つのdual-die M5 MaxをUltraFusionで接続した、M系列で初のクアッドダイ構成。最大36コアCPU・80コアGPU、32コアNeural Engineを積む。

ローカルAI視点で決定的なのは次の2つ。ユニファイドメモリが最大512GB、帯域が1.2TB/s（M3 Ultra比+50%）。Appleはこの容量と帯域によって、大きなデータセットを手元に置き、トークン毎秒を上げ、数千億パラメータ規模のLLMを完全にオンデバイスで動かせると説明している。

なぜメモリ帯域をここまで推すのか。ローカル推論でトークンを1つずつ生成する速度は、演算そのものよりメモリ帯域に律速されやすいからだ。モデルが大きいほど毎トークンで読み出す重みが増える。だから「512GBに載る」ことと「1.2TB/sで読み出せる」ことは、大型モデルを実用的な速度で回すうえで両輪になる。以前このメディアで取り上げたBaseRTのようなMetal直叩きの推論ランタイムが速度を稼げるのも、突き詰めればこの帯域とユニファイドメモリを効率よく使い切るからだ。ハード側の帯域が5割増えたインパクトは、そういうツールでこそ効いてくる。

筆者の視点：数字は鵜呑みにしない、でも方向性は正しい

まず前提として、上に並べた「8倍」「2倍」「+50%」はすべてApple公式のマーケティング数値だ。条件を選んだピーク値であり、あなたのモデル・あなたの量子化・あなたのランタイムで同じ倍率が出るわけではない。実測が出そろうまでは割り引いて読むべきだ。

それでも、M5 Ultraで512GBのユニファイドメモリが5,499ドルから手に入るのは素直にすごい、と思う。同等のVRAMをGPUで積もうとすれば、構成によっては桁が変わる。「大型モデルをまるごとローカルで回す」という選択肢が、ワークステーション1台の価格帯に降りてきたこと自体が今回の意味だ。

一方で冷静に見るべき点もある。5,499ドルは為替次第で日本だと軽く80万円を超える、個人には重い買い物だ。そして数千億パラメータ級を最高速で、というのは最上位の512GB構成の話であって、下位構成では話が変わる。M6のMac miniに至っては、ローカルLLMの主役にはならない。今回のラインアップは「オンデバイスAIが一段スケールした」のは確かだが、その恩恵をフルに受けられるのはハイエンドを買える層に限られる。

この容量がほどく使い方

では512GBが手元にあると何がほどけるのか。素直に思いつくのは、外に出せないデータを外に出さずに大型モデルへ通す使い方だ。守秘義務のある契約書、患者データ、社内コードベース——クラウドAPIに投げること自体が難しかった領域で、数千億パラメータ級のモデルを丸ごとローカルに置いて処理できるなら、私的AIの現実味が一段上がる。

もう一つは、大きなコンテキストを一気に食わせる用途だ。帯域が効くのは長文プロンプトの読み込みと長い生成の両方で、書籍1冊分の資料や巨大なログをまとめて読ませて要約・横断検索する、といった作業がローカルで実用速度に近づく。RAG的な外部検索に頼らず、モデルにまとめて渡して考えさせるスタイルが、手元マシンで成立しやすくなる。

いずれも「M5 Ultraがなければ絶対に無理」という話ではない。ただ、これまでは帯域とメモリの壁で妥協していたことが、妥協せずに済む側へ半歩動いた。ローカルAIを本気でやる人にとって、そこが今回の一番のニュースだと思う。

詳細はApple Newsroomを参照してほしい。