# オンデバイスAI

6件の記事

クラウドなしで1,000億パラメータのAIを動かす箱 — Mac miniの7.5倍を謳うエッジAIチップの正体

Acrabが発表したエッジAI専用チップGΞLIX 1と、それを積んだ個人向けAI端末Agent Box。100B級モデルをローカルで動かす設計、Mac mini比7.5倍という主張、オンデバイスAIの意味を解説する。

Mispherは文字起こし・書き換え・翻訳・AIエージェントを1つに統合したMac向けオンデバイスツール。クラウド不要・無料で使える仕組み、対応言語、競合との違いと注意点を解説する。

BaseRTはApple Silicon専用の高速ローカルLLM推論ランタイム。Metalネイティブ実装でllama.cpp比prefill最大6.4倍を主張。何が速いのか、ライセンス、使い所と注意点を解説する。

PerplexityがComputex 2026でIntelと発表したハイブリッド推論オーケストレーター。AIがタスクごとにローカル/クラウドを自動判断。7月搭載予定の仕組みと制約を解説。

Microsoft Build 2026で発表されたAion 1.0を解説。14Bパラメータの推論モデルがWindowsに標準搭載され、課金不要でローカル完結するAIエージェントが実現する。

Caltech発PrismMLの1ビットLLM「Bonsai」は80億パラメータを1.15GBに収め、iPhone上で毎秒44トークン生成する。量子化とは異なるネイティブ1ビット学習の仕組みと性能を解説。