機密ファイルはPC上で処理、複雑な推論はクラウドへ — Perplexityが自動で振り分ける
PerplexityがComputex 2026でIntelと発表したハイブリッド推論オーケストレーター。AIがタスクごとにローカル/クラウドを自動判断。7月搭載予定の仕組みと制約を解説。
PerplexityPerplexity ComputerオンデバイスAIローカルAIエッジAI
# オンデバイスAI
3件の記事
APIキーも月額もいらない — WindowsにAIエンジンが内蔵される「Aion 1.0」の正体
Microsoft Build 2026で発表されたAion 1.0を解説。14Bパラメータの推論モデルがWindowsに標準搭載され、課金不要でローカル完結するAIエージェントが実現する。
AionMicrosoftオンデバイスAIAIエージェント速報
80億パラメータが1GBに入る。量子化ではない、最初から1ビットで作ったLLMの話
Caltech発PrismMLの1ビットLLM「Bonsai」は80億パラメータを1.15GBに収め、iPhone上で毎秒44トークン生成する。量子化とは異なるネイティブ1ビット学習の仕組みと性能を解説。
PrismML BonsaiLLMオープンソースオンデバイスAI速報