# Apple Silicon

4件の記事

血液検査の結果、クラウドAIに渡せますか — PerplexityがMac上で機密を処理し始めた

PerplexityがMacアプリで公開したHybrid Compute。機密ファイルはオンデバイスの分類器が判定してMac内で処理し、複雑な推論だけをクラウドへ。仕組みと24GBの壁を解説する。

AppleがM6とM5 Ultraを発表。2nmのM6は32GBの壁が残る一方、M5 Ultraは512GB・1.2TB/sで数千億パラメータのモデルを手元で動かす。MacのローカルLLMがどう変わるかを解説。

BaseRTはApple Silicon専用の高速ローカルLLM推論ランタイム。Metalネイティブ実装でllama.cpp比prefill最大6.4倍を主張。何が速いのか、ライセンス、使い所と注意点を解説する。

Mac専用AIランタイムOsaurusをレビュー。Ollamaより20%高速、7MBのSwift製、MCP対応。ローカルLLMとクラウドAPIを1つのアプリで統合する設計思想と制約を解説。