18件の記事
Perplexity Computerのローカル版「Portable Computer」がWindowsに登場。RTX GPUで完全オンデバイス動作し、クレジット消費なし・データは端末外に出ない。要件と実力、微妙な点を解説する。
MiniCPM5-2Bは2.52BながらQwen3.5-4Bを上回るベンチを主張するオンデバイス向けオープンモデル。131kコンテキスト・Apache 2.0の中身と、小型ゆえの限界を整理する。
アブダビのMBZUAI系IFMが公開したフルオープンモデル群K2 Horizon。36Bのうち4Bだけ動くMoVA構成、Apache 2.0、学習データとコードまで全公開という中身を、ローカルLLM視点で解説する。
PerplexityがMacアプリで公開したHybrid Compute。機密ファイルはオンデバイスの分類器が判定してMac内で処理し、複雑な推論だけをクラウドへ。仕組みと24GBの壁を解説する。
Alibabaがオープンウェイトの密27BモデルQwen3.8-27BをApache 2.0で公開。ローカルで動くサイズながら一部ベンチでOpus 4.6 Maxを上回る。実力と現実的な使い所を整理する。
AppleがM6とM5 Ultraを発表。2nmのM6は32GBの壁が残る一方、M5 Ultraは512GB・1.2TB/sで数千億パラメータのモデルを手元で動かす。MacのローカルLLMがどう変わるかを解説。
Qwen3.8-27Bは24GBのGPU1枚で動くオープンウェイトのマルチモーダルモデル。Apache 2.0、262Kコンテキスト、公開初週末に300万DL。ローカルAIを塗り替える実力を検証する。
Metaがローカルで動く300億パラメータのオープンウェイトAIモデル「Muse Glimmer」を公開。単体GPUのMac/PCでエージェントが動く意味と、ツール使用・失敗リカバリを1モデルに統合した中身を解説。
JetBrainsのMellum2は12BのオープンなMoEコーディングモデル。トークンあたり2.5Bだけ動かして2倍速い推論を狙う。何が速いか、どこに使うか、ライセンスと注意点を解説する。
BaseRTはApple Silicon専用の高速ローカルLLM推論ランタイム。Metalネイティブ実装でllama.cpp比prefill最大6.4倍を主張。何が速いのか、ライセンス、使い所と注意点を解説する。
Ollamaが約95億円調達。社員14人で890万人が使うローカルLLM基盤の実力と展望を解説。
ZAYA1-8Bは総パラメータ8.4Bながら活性760MのMoE推論モデル。AIME 91.9%の実力、AMD学習の背景、ローカル実行の可能性を解説。
Mistral Small 4は119B MoEで推論・画像・コードを統合。Apache 2.0で無料。使い所を解説。
Ollama・LM Studio・Foundry Localを速度・モデル対応・企業利用で比較。ローカルLLMの選び方。
Mac専用AIランタイムOsaurusをレビュー。Ollamaより20%高速、7MBのSwift製、MCP対応。ローカルLLMとクラウドAPIを1つのアプリで統合する設計思想と制約を解説。
Qwen3.6-35B-A3Bは35Bパラメータのうち3Bだけ使う超効率MoEモデル。SWE-bench 73.4%の実力をOllamaでローカル実行する方法、27B Dense版との違いを解説。
Alibaba発のQwen3.6-27Bは27Bパラメータの密モデルでClaude Opus 4.5級のコーディング性能を実現。RTX 4090で動くフロンティア級モデルの実力と限界を解説。
Alibaba Qwen 3.5の全7モデルを徹底解説。9Bが30B超えの衝撃的なパラメータ効率、Ollamaでのローカル実行手順、GPT-5.2との性能比較がわかる。