AI PCを買ってもChatGPTは速くならない —— NPUの役割と、普通のPCとの違い・買うべき人の条件

AI PCでもChatGPTが速くならない理由

ChatGPTの答えができるまで

ChatGPTに質問すると、その質問はOpenAIのサーバーに送られ、答えはサーバーで作られます。[s19]手元のPCがしているのは、質問を送り、答えを受け取って表示することだけです。[s19]

ふつうのPC

• 質問を送る
• 答えはサーバーで作る

VS

AI PC

• 質問を送る
• 答えはサーバーで作る

そのため、ふつうのPCでもAI PCでも、答えを作る場所は同じです。PCにNPUを積んでも、ChatGPTの答えができる速さは基本的に変わりません。[s19]では、AI PCの「AI」とは何を指すのでしょうか。

先に結論

先に結論を述べると、AI PCに意味がないわけではありません。PCの中で動くAIの機能には役立ちます。ただし、名前だけで選ぶと、期待した使い方では役に立たず後悔するおそれがあります。

CPU・GPU・NPUの違い

要点

パソコンの計算チップ

CPU

何でもこなす

GPU

同じ作業を大量に

NPU

AI専用で省電力

パソコンの中で計算するチップは、大きく3種類あります。お店にたとえると、CPUはレジも電話も何でも1人でこなす店長、GPUは同じ作業を大勢でいっせいに進める職人たち、NPUは決まった作業だけを担う専用の小さな機械です。NPUは、決まったAIの作業を少ない電力で続けるのが得意です。[s7]

Microsoftも、NPUはCPUやGPUより省電力で、AIの処理に向いていると説明しています。[s7]AI PCとは、このNPUを積んだPCの呼び名です。

Copilot+ PCの条件

その中でMicrosoftが定めた基準が「Copilot+ PC」です。NPUの性能が40 TOPS以上、メモリ16GB、ストレージ256GBが条件になっています。[s2][s3]

Q40 TOPSとは、どんな数字？

TOPSは、1秒間に何兆回の計算ができるかを表す数字で、40 TOPSなら40兆回です。[s1]ただし、これはNPUの計算の最大回数であって、ChatGPTの速さを表す数字ではありません。[s1][s19]しかも、いちばん良い条件での最大値で、AMDも「ふつうの使い方での値とは限らない」と注記しています。[s17]

各社が発表したNPUのTOPS

最近のチップのNPUは、各社の発表ではIntelが50、AMDが最大60、Qualcommが最大85で、いずれも40を超えています。[s14][s15][s16][s17]とはいえ、この数字が大きいほどAIが速いとは限りません。

AI PCでできること

Recall —— 見た画面を言葉で探す

Microsoftが紹介しているAI PCの機能から、代表的な5つを見ていきます。[s2][s3][s4][s5][s6]1つ目のRecallは、以前に見たものを、思い出した言葉で探せる機能です。数秒おきに画面のスナップショットを保存し、あとから検索できます。[s3]便利な反面、画面を保存し続けることに抵抗を感じる人も多いでしょう。

そのためRecallは、自分でオンにしない限り保存を始めません。保存した画面は暗号化してPCの中だけに置き、Windows Helloで本人だけが見られるようにして、Microsoftや第三者とは共有しません。[s3]会社や学校のPCでは、IT管理者が許可するまでRecallは外されています。[s3]空き容量50GB以上やデバイスの暗号化などの条件があり、日本語は最適化の対象に含まれています。[s3]

ライブキャプション —— 音声を字幕にする

2つ目のライブキャプションは、PCから流れる音声をリアルタイムで字幕にする機能です。[s4]英語の会議や動画を見る機会が多い人には便利です。

注意したいのは翻訳先です。約40の言語を英語に、27の言語を簡体字中国語に翻訳できますが、Microsoftのページには日本語への翻訳は書かれていません。[s4]英語の動画に日本語字幕を付ける使い方はできない、ということです。一方、日本語の音声を字幕にするだけなら、Copilot+ PCでなくてもWindows 11で使えます。[s4]

Cocreator —— ペイントでAIが絵を仕上げる

3つ目は、ペイントのCocreatorです。ざっくりした絵と文章から、AIが絵を仕上げます。[s5]絵を作る計算はPCの中のNPUで行い、枚数の制限もありません。[s5]

ただし、完全なオフラインではありません。安全のための確認をクラウドで行うため、Microsoftアカウントでのサインインとネットへの接続が必要です。[s5]

Click to DoとStudio Effects

残る2つのうち、Click to Doは画面の文字や画像を選んで操作する機能で、文章の要約や書き換えもできます。[s2]Studio Effectsは、ビデオ通話で背景をぼかしたり視線を補正したりする機能です。[s6]ただし、NPUが40 TOPSに満たないPCでは、使える効果が一部に限られます。[s6]

できること・気をつけること

5つの機能を、便利な点と気をつける点に分けて整理すると、この表のようになります。[s2][s3][s4][s5]Click to Doの要約や書き換えには、既定の言語が英語であることという条件もあります。[s2]AI PCが得意なのは、こうしたPCの中で動く小さなAIの機能だと言えます。

ローカルLLMは速くなるのか

クラウドのAI

• 会社のサーバーで動く

VS

ローカルLLM

• 自分のPCで動く

AIのモデルを自分のPCで動かす「ローカルLLM」なら、AI PCで速くなると思われがちです。しかし、ローカルLLMの速さを決めるのは、NPUのTOPSだけではありません。

やりたいことで、大事な部品が変わる

やりたいことによって、大事な部品は変わります。[s1][s8][s13]ChatGPTやClaudeを使うだけなら、回線とサービス側の性能で決まります。AIの字幕や背景ぼかし、小さいLLMを省電力で動かす用途では、対応ソフトとNPUが大事です。一方、大きいLLMを速く動かすなら、GPUとメモリが重要になります。[s13]

NPUがなくても動く

そもそも、ローカルLLMはNPUがなくても動きます。MicrosoftのFoundry Localは、NPUやGPUがあれば使い、なければCPUで動きます。Copilot+ PCは必須ではありません。[s8]

速さと、入るかどうか

ローカルLLMで問題になるのは、速さと、そもそもメモリに入るかどうかの2点です。AIは答えを少しずつ作るたびに、自分の中身（重み）をメモリから読み直します。そのため、速さはメモリから読み出す速さ、つまりメモリ帯域で決まりやすくなります。[s13][s20]

速さの上限の試算

1人で使うときの速さの上限の目安は、メモリ帯域をAIの重みの大きさで割った値です。[s20]例として、重みが4GBのAIを帯域100GB/sのメモリで動かすと、上限は1秒に約25トークンになります。トークンはAIが出す文字のかたまりの単位で、実際の速さはこの上限を下回ります。[s20]メモリ帯域はTOPSとは別の数字で、ローカルLLMではこちらが効きます。[s13][s20]

16GBのPCにAIは入るか

そもそもメモリに入らなければ、AIは動きません。メモリ16GBのPCで、OSやアプリが約6GBを使うとします（イメージ）。約4GBの小さいAIや約7GBの中くらいのAIは入りますが、約14GBあるgpt-ossの200億パラメータ版は入りません。[s18]

ローカルLLMでのNPUとGPUの役割

NPUは小さいAIを省電力で動かすのが得意で、大きいAIにはGPUとメモリが向いています。[s1][s11][s13]Microsoftが組み込んでいる小さな言語モデル「Phi Silica」も、Copilot+ PCではNPUで動きます。[s11]なお、ここでの整理は公式の仕様と説明にもとづくもので、実機で速さを測ったものではありません。

「AIを動かしたいからAI PCを買う」のは、順番が逆です。まず、どんなAIを、どのソフトで動かしたいかを決めることが先です。

買う前の3つの落とし穴

1つ目の落とし穴は、「AI PCならどのソフトでもNPUが使える」という思い込みです。NPUは、使うソフトがNPU向けに作られていないと働きません。[s1]

しかもNPUは、ビット数の少ない整数の計算が中心のため、AIのモデルをNPU向けに変換する必要があります。[s1]いま使っているAIツールが自動的にNPUで速くなるとは限らないので、使いたいソフトがNPUに対応しているかを買う前に確かめましょう。

TOPSのほかに見るもの

2つ目は、TOPSだけで性能を比べることです。[s13][s17]TOPSは最大値で、ふつうの使い方での値とは限らないとメーカー自身が書いています。[s17]見るべきなのは、動かしたいAIに対応しているか、メモリの容量と帯域、そして実際に測った速さです。

バッテリーは使い方しだい

3つ目は、「AI PCならバッテリーが長持ちする」という思い込みです。[s6][s7]Microsoftは、NPUが省電力で「一日じゅう持つ」と説明していますが、これは会社の説明です。[s1][s7]サポートページには、一部のPCではカメラの効果をオンにすると性能やバッテリーに大きく影響する、という注意も書かれています。[s6]持ち時間は、画面の明るさやバッテリーの容量、使う作業によっても変わります。

日本の利用者がとくに気をつけること

日本の利用者がとくに気をつけたい点も2つあります。1つは、Snapdragonを積んだPCが「Arm版のWindows」で動くことです。ふつうのWindowsのアプリはエミュレーションという仕組みで動かせますが、対応するのはアプリだけで、ドライバには対応していません。[s12]ドライバが必要な周辺機器は、Arm版に対応しているかを買う前に確かめましょう。[s12]

もう1つは日本語の条件です。Click to Doの要約や書き換えは既定の言語が英語であることが条件で、Cocreatorも英語の文章に最適化されています。[s2][s5]すべての機能がそうではありませんが、使いたい機能が日本語で使えるかは、買う前に確かめておくのが安全です。

買うべき人・いらない人

使い方別に、まず見るところ

使い方で4つのタイプに分けて考えます。[s1][s2][s13]ChatGPTやWebが中心の普段使いなら、普通のPCで十分なことが多いでしょう。英語の会議や通話が多いビジネス用途なら、Copilot+ PCが向いています。[s4][s6]ただし、会社のPCではRecallなどの機能が管理者の設定しだいです。[s3]

AI開発ではGPUとメモリが先で、NPUはあれば便利という位置づけです。[s13]動画編集やAIでの画像・動画の生成も、GPUと対応ソフトが大事になります。

買う前の確認

買う前には、まず使いたいAIの機能やソフトを決め、それが日本語で使えるかを確かめましょう。次に、TOPSだけで決めずに、メモリの量とGPUを見ます。そのうえで、いまのPCと比べて本当に不満があるのかを考えると、必要な買い物かどうかが見えてきます。

まとめ

AI PCは、NPUを積んだPCのことです。ChatGPTのようなクラウドのAIは答えをサーバーで作るため、AI PCにしてもその速さは基本的に変わりません。[s19]「40 TOPS」はNPUの計算回数の最大値で、メモリや対応ソフトも同じくらい大事です。[s1][s17]大きいローカルLLMを動かすなら、まずGPUとメモリを見ましょう。[s13]

大切なのは、AI PCかどうかではなく、やりたいことに合うCPU・GPU・NPU・メモリを選ぶことです。名前ではなく用途で選ぶことが、後悔しないためのいちばんの方法です。