# mesh-llm

眠っているGPUを束ねて大きなモデルを動かす — Blockのmesh-llmが示す「分散ローカル推論」の現在地

Jack Dorsey率いるBlockのエンジニアが公開したOSSプロジェクトmesh-llmを解説。家のPCやMacのGPUをピアツーピアで束ね、単独では動かせない大規模モデルを分散実行する仕組みと使い所。