NPU

NPUはCPUやGPUよりはるかに低い電力でMLワークロードを実行する。スマートフォンのNPUはコンピュテーショナルフォトグラフィー、オンデバイス翻訳、音声認識といった機能を、バッテリーを消耗させずに継続的に実行する。

ノートPCでは

• Apple Neural Engine — M5世代で38 TOPS。
• Qualcomm Hexagon（X Elite/X2） — 45〜80 TOPS。
• Intel AI Boost（Lunar Lake / Panther Lake） — 48 TOPS以上。
• AMD XDNA 2（Ryzen AI 300/400） — 50 TOPS以上。

何を可能にするか

Windows Studio Effects（背景ぼかし、アイコンタクト、自動フレーミング）はCPU/GPUの代わりにNPUで動作し、それらを生産的な作業に解放する。macOSでは、Live Captions、ディクテーション、画像セグメンテーションがすべてNeural Engineで動く。

NPU 対 GPU

NPUはワットあたりの効率が高く、GPUははるかに高いスループットを持つ。重い生成AIワークロード（Stable Diffusion、大規模LLM）はなおGPUが有利だ。