NVLinkとは　GPU1基あたり毎秒1.8TB、72基を1つの計算機のようにつなぐ

NVLinkとは、エヌビディアが自社のGPU同士を直接つなぐために作った、高速な配線とその決まりごとです。サーバーの中やラックの中で、複数のGPUがお互いのメモリを読み書きできるようにします。

PCIeでは足りない理由

パソコンやサーバーの部品をつなぐ標準の配線はPCIeです。PCIeでGPU同士がデータをやり取りすると、途中でCPUやスイッチを通り、帯域にも限りがある配線です。大きなAIモデルは1基のGPUのメモリに収まらないため、モデルを複数のGPUに分けて置き、計算のたびに途中の結果を交換する必要があります。この交換が遅いと、GPUが待つ時間が増えてしまいます。

NVLinkは、この交換をGPU同士で直接行うための専用線です。複数のGPUの間に「NVLinkスイッチ」という専用の半導体を置き、どのGPUからどのGPUへも同じ速さで届くようにします。

世代ごとの速さ

NVLinkの世代と速さ（エヌビディアの製品ページから。第6世代は暫定の仕様）

世代	GPU	GPU1基あたり	1組のGPUの数	1組の総帯域
第4世代	Hopper	毎秒900GB	8	毎秒7.2TB
第5世代	Blackwell	毎秒1,800GB	72	毎秒130TB
第6世代	Vera Rubin	毎秒3,000GB	72	毎秒216TB

大きく変わったのは第5世代です。Hopperの世代までは、NVLinkでつながるのはサーバー1台の中の8基まででした。Blackwellでは、ラック1本に収めた72基のGPUを全部つなげるようになり、1組のGPUの数が9倍になりました。第6世代は、1基あたりの線の数を18本から36本に増やします。エヌビディアは、第6世代の帯域はPCIe Gen6の12倍だとしています。

他社にも開いたNVLink Fusion

NVLinkは長くエヌビディアの製品の中だけで使う規格でした。エヌビディアは2025年5月18日、台北のCOMPUTEXで「NVLink Fusion」を発表し、他社が作るCPUや専用のAIチップもNVLinkでつなげるようにしました。

発表では、専用チップの設計でメディアテック、マーベル、アルチップ、アステラ・ラボ、CPUで富士通とクアルコム、設計のソフトと回路の部品でシノプシスとケイデンスが参加企業として名前を挙げられました。富士通は2ナノメートルで作るArmのCPU「FUJITSU-MONAKA」をつなぐ計画です。

関連する用語

• NVLinkスイッチ：多数のGPUのNVLinkを束ねて、相互に通信させる専用チップ。
• スケールアップ：NVLinkのような専用線で、GPUの組そのものを大きくすること。
• UALink：AMD、インテルなどが進める、GPU同士をつなぐ業界の共通規格。
• InfiniBand：NVLinkの組と組の間、サーバー同士をつなぐネットワーク。

エヌビディアはVera Rubin NVL72の性能を、AIの計算で最大3.6エクサフロップスとしています。