NVIDIAのAIシステム「DGX Rubin NVL8」は、Intel Xeon 6をホストCPUとして採用する。CPUがタスクの調整やメモリー管理を担い、GPUへ処理とデータを渡す構成だ。
ホストCPUがGPU側の処理を調整する
NVIDIAのAIシステム「DGX Rubin NVL8」は、Intel Xeon 6をホストCPUとして採用する。ホストCPUはGPUによる計算そのものに加え、システム内のタスクを調整する役割を持つ。
この役割には、メモリー管理や処理の分配が含まれる。GPUへ渡す仕事をCPU側で整理することが、システム全体の実行を支える。
Priority Core Turboでデータ供給を支える
Intelは、XeonのPriority Core Turboを使い、GPUへデータを送り続ける構成を示している。CPU側の処理がデータ供給を担うため、この機能はGPUへの受け渡しに関わる。
処理の調整、スケジューリング、データ移動には、Xeonのシングルスレッド性能を生かすという。タスクを割り当てた後、その実行に必要なデータを動かすまでがホストCPUの仕事となる。
大容量メモリーとMRDIMMがデータを供給する
Intelが示すXeon 6のシステムメモリー容量は最大8TBで、大規模モデルやKVキャッシュを支える仕様となる。KVキャッシュは、推論時に過去の計算結果を保持するデータだ。
Intelによると、MRDIMM技術を使う場合のメモリー帯域幅は前世代比で最大3倍になる。これはXeon 6の機能についてのメーカー公表値であり、DGX Rubin NVL8全体の性能値ではない。
PCIe接続と機密計算がCPUとGPUを結ぶ
Xeon 6のPCIe 5.0レーンは、AIアクセラレーターなどの機器との接続を支える。メモリーから取り出したデータを使うGPUとの連携には、こうした入出力経路も関わる。
セキュリティ面では、Intel Trust Domain Extensions(TDX)がハードウェアによる隔離と認証を提供する。Intelは、Encrypted Bounce BufferもCPUとGPUの間のデータ経路における機密計算の機能として挙げている。
DGX B300から続くXeonの採用
Blackwell世代のDGX B300にはIntel Xeon 6776Pが使われている。DGX Rubin NVL8でもXeonをホストCPUとして採用し、GPUを支えるCPUの系統が引き継がれる。