消費電力と発熱とは チップの電力はほとんどが熱に変わる、エヌビディアのH100は最大700W
チップが使う電力は、ほとんどが熱として出ていきます。エヌビディアのH100(SXM版)は1基で最大700W、GPU8基のDGX B200は装置1台で最大約14.3kWを使います。
- チップが使う電力は、計算の結果として外に出る信号の分を除き、ほぼすべてが熱になります。
- 電力は、トランジスタを切り替えるたびに使う「動的な電力」と、切っていても漏れる「静的な電力」に分かれます。
- エヌビディアのH100は、SXM版が最大700W、PCIe版のH100 NVLは350〜400Wです。
- インテルのCore i9-14900Kは、基本の電力125W、最大のターボの電力253Wと定めています。
半導体のチップは電気で動き、使った電力はほぼすべて熱に変わります。1基で数百Wを使うAI向けのGPUは、数百Wの電熱器と同じだけの熱を、指先ほどの面積から出している計算です。熱を逃がせなければ温度が上がり、性能を落とすか、壊れるかのどちらかになります。
電力の2つの中身
1つ目は動的な電力です。トランジスタを切り替えるたびに、ゲートや配線の寄生容量を充電し、放電します。この電力は、容量、電圧の2乗、切り替えの回数(周波数)にほぼ比例します。電圧を1割下げると、この分の電力は約2割減る計算です(計算)。
2つ目は静的な電力で、トランジスタを切っていても流れる漏れ電流が原因です。微細化でトランジスタの数が増え、しきい値電圧が下がるにつれて大きくなりました。温度が上がると漏れが増え、それがさらに発熱を生みます。
製品の数字
| 製品 | 項目 | 数字 |
|---|---|---|
| エヌビディア H100 SXM | 最大の熱設計電力(設定で変更可) | 700W |
| エヌビディア H100 NVL(PCIe、空冷) | 同上 | 350〜400W |
| エヌビディア DGX B200(GPU8基) | 装置の最大の消費電力 | 約14.3kW |
| インテル Core i9-14900K | 基本の電力/最大のターボの電力 | 125W/253W |
| ローム RY7P250BM(100V MOSFET) | 許容損失(ケース25度) | 340W |
各社の製品仕様とデータシートから。数え方は会社と製品で違う。
DGX B200の約14.3kWは、GPU8基とCPU2基、メモリ、ネットワークなどを合わせた装置1台の最大です。1台で約14.3kWなら、4台で約57kWになります(計算)。データセンターでは、この電力がそのまま空調や液冷で運び出す熱の量になります。
温度の上限
チップには、内部の温度(接合部の温度)の上限があります。インテルはCore i9-14900Kの上限を100度、ロームはRY7P250BMの上限を175度としています。上限に近づくと、CPUやGPUは周波数や電圧を下げて発熱を抑えます。電力用のMOSFETでは、許容損失の数字は接合部の温度が上限を超えない範囲として示されます。
熱の出方は、同じ電力でも面積で変わります。小さな面積に電力が集まるほど、単位面積あたりの熱(熱流束)が大きくなり、冷やすのが難しくなります。AI向けのGPUで、空気で冷やす方式から液体で冷やす方式への移行が進んだのはこのためです。
関連する用語
- TDP:冷却の設計の目安とする電力の値。
- 熱設計:チップの熱を許容温度の中で逃がす仕組みを決める作業。
- リーク電流:切っていても流れる電流で、静的な電力の原因。
- 液冷:液体で熱を運び出す冷やし方。
この記事は公開資料をもとに作成しています。売買をすすめるものではありません。誤りを見つけたら訂正します(編集方針)。
関連する記事
TDP(熱設計電力)とは 冷却装置を選ぶための電力の目安、短時間なら超えることもある
TDPは、システムの設計者が冷却の能力を決めるための電力の目標値です。インテルはCore i9-14900Kの基本の電力を125W、最大のターボの電力を253Wとし、約2倍の差があります(計算)。
熱設計とは チップから部屋の外まで熱の通り道を決める作業、GB200 NVL72はラックごと液冷
熱設計は、チップの熱を許容温度の中で外へ運び出す道筋と能力を決める作業です。エヌビディアはGPU72基を1つのラックに収めるGB200 NVL72を、液体で冷やす前提で設計しています。
リーク電流とは オフでも流れる漏れ電流、インテルは材料を替えてゲートの漏れを10分の1未満に
リーク電流は、トランジスタを切った状態でも流れる電流で、動いていない回路でも電力を使う原因になります。インテルは2007年、ゲートの材料を替えてゲートを抜ける漏れを10分の1未満にしたと発表しました。
建設のリードタイムとは TSMC熊本は着工から開所まで約1年10か月、アリゾナは発表から量産まで約4年半
建設のリードタイムとは、工場やデータセンターの着工から稼働までにかかる時間です。TSMCの熊本の第1工場は2022年4月に着工し、2024年2月に開所式を開きました。