スマホのAIとは　アップルは約30億パラメータのモデルを1つの重みあたり2ビットに縮めて端末で動かす

スマホのAIとは、スマートフォンに入ったAIの機能と、それを動かす仕組みのことです。文章の要約、写真の編集、音声の聞き取り、翻訳などを、端末の中かクラウドで処理します。

端末とクラウドの使い分け

スマホは電池で動き、冷やすファンもありません。メモリも数GB〜十数GBです。そのため、大きなモデルは端末に入りません。各社は、よく使う軽い処理を端末の中の小さなモデルで済ませ、難しい処理だけをクラウドの大きなモデルに送る作りにしています。端末の中で済めば、通信がいらず、データを外に出さずに済みます。

端末の中でAIを動かすのは、スマホのSoCに入ったNPUです。アップルはNeural Engine、クアルコムはHexagon、メディアテックはAPUと呼んでいます。

アップルの例：小さく縮める工夫

Apple Intelligenceのモデルの数字（アップルの技術資料、2025年6月9日公開・7月17日更新）

項目	端末用モデル	サーバー用モデル
大きさ	約30億パラメータ	小さなモデルを並べたMoE（PT-MoE）
重みの縮め方	1つの重みあたり2ビット（学習の段階から想定）	―
途中の記憶（KVキャッシュ）	層の間で共有し37.5%削減	―
動かす場所	iPhone、iPad、Mac	Private Cloud Compute
対応する言語	15言語

パラメータ1つを16ビットで持つと、30億パラメータで約6GB（計算）になります。2ビットにすると約0.75GB（計算）で、8分の1の大きさです。アップルは、ただ後から縮めるのではなく、縮めた状態でも精度が落ちないように学習の段階から調整しています。アプリの開発者は、「Foundation Models」の仕組みを通じて、この端末用モデルを直接呼び出せます。

対応機種と半導体の条件

アップルのサポートページによると、Apple Intelligenceが使えるiPhoneは、iPhone 15 Pro、15 Pro Max、iPhone 16以降の各機種、iPhone Air、iPhone Duoです。iPadとMacは、主にM1以降のチップを積む機種が対象です。端末の保存領域は、iPhone 17 Pro以降、iPhone Air、iPhone Duoで最大14GB、その他の対応機種で最大8GBを使います。

機能を使うのに新しいチップと一定のメモリが要るため、スマホのAIは、端末の更新と、NPUとメモリの大きいSoCの需要に結びつきます。日本語は、対応する言語に入っています。

関連する用語

• NPU：AIの推論に特化した回路。
• 量子化：モデルの数値の桁を減らし、メモリと計算を軽くすること。
• KVキャッシュ：言語モデルが前の語の計算結果を覚えておくメモリ。
• エッジAI：機器の中でAIを動かすこと。

Apple Intelligenceの保存領域の使用は、ソフトの更新の前後で一時的にこれを超えることがあるとアップルは注記しています。