NPUとは　端末の中でAIの推論を少ない電力でこなす専用の回路

NPU（Neural Processing Unit）は、AIのモデル、とくにニューラルネットワークの計算を受け持つ専用の回路です。スマートフォンやノートパソコンのSoCの中に、CPU、GPUと並んで載っています。写真の加工、音声の文字起こし、通話の雑音の除去、画面の内容の要約などを、クラウドに送らずに端末の中で処理します。

掛け算と足し算を並べて流す

ニューラルネットワークの推論は、数の表（行列）どうしの掛け算と足し算の繰り返しです。NPUは、掛け算と足し算をする小さな計算器を格子の形に大量に並べ、データを流し込むと一度に多くの計算が進むように作ります。計算に使う数の桁を8ビットや4ビットのように少なくし、回路と電力を節約するのも特徴です。

CPUはどんな処理もこなせる代わりに、この種の計算では効率が落ちます。GPUは並列の計算が得意ですが、画面を描く機能なども持つため、端末の中で常に動かすには電力が大きくなりがちです。NPUは用途を絞った分、電力あたりの性能を高められます。

端末の中の3つの演算の回路

回路	得意なこと	AIの計算での位置づけ
CPU	順番に進む処理、何でもこなす	小さなモデル、制御
GPU	画像や大量の並列の計算	重い処理を短時間で
NPU	決まった形の行列の計算	常に動かす処理を少ない電力で

パソコンの条件になったNPU

マイクロソフトは2024年5月20日、AIの機能を端末の中で動かすパソコンの区分「Copilot+ PC」を発表しました。40TOPS超の演算ができる半導体を載せることを打ち出し、最初の製品にはクアルコムの「Snapdragon X Elite」と「Snapdragon X Plus」を使いました。Snapdragon XシリーズのNPUは1つのSoCで45TOPSです。製品は6月18日に発売され、インテルとAMDの半導体を使う機種も後から加えるとしました。

各社の工夫

アップルは2026年3月に出した「M5 Pro」と「M5 Max」で、GPUの各コアにAIの計算用の回路（Neural Accelerator）を1つずつ入れました。GPUでのAIの計算の最大性能が前の世代の4倍超になったとしています。米マイクロチップ・テクノロジーは9月17日、カメラなどの機器の中でAIを動かすプロセッサーを作るHailoの買収を終えました。

関連する用語

• TOPS：1秒に何兆回の演算ができるかを表す単位。計算の桁数の条件で値が変わる。
• 推論：学習を終えたAIのモデルを使って答えを出す処理。
• SoC：CPU、GPU、NPUなどを1チップにまとめた半導体。

マイクロチップは、10〜12月期の売上を15億7,300万〜16億3,800万ドルと見込んでいます。