HBMをAIアクセラレータの上へ直接積層するzHBMが、中間配線を省いたデータ経路を構成する。Samsung Electronicsは、メモリー、ファウンドリー、先端パッケージングの技術を統合した。
横置きのHBMに残るデータ移動経路
従来のHBMは、AIアクセラレータの横に並べて配置する。メモリーと演算器が別の位置にあるため、両者の間でデータを運ぶ経路が必要になる。
この構成では、データがロジックチップやインターポーザーを通り、メモリーへ戻る。経路に複数の構成要素が入るため、HBM内部を垂直につないだ後も、AIアクセラレータとの間には移動距離を縮める余地が残る。
数千本のTSVが積層メモリーを貫く
HBMは、複数のメモリーを垂直に積層するアーキテクチャを採る。積層した半導体の層間は、半導体を垂直に貫通する配線であるThrough-Silicon Via（TSV）が接続する。
TSVは数千本の垂直データ経路を形成し、積層した層の間でデータを運ぶ。この垂直接続によって、平面方向の配線だけで構成する場合よりもデータの移動距離を短縮する。
zHBMは積層先をAIアクセラレータへ広げる
zHBMは、HBM内部の垂直積層を、メモリーとAIアクセラレータの配置にも広げる。HBMを演算器の横ではなく、その上へ直接積層する構成だ。
配置を上下方向へ変えることで、HBMとAIアクセラレータは物理的に近接する。メモリー内部を貫く垂直経路と、演算器へ向かう経路を一続きの積層構成に組み込む。
中間配線を省くために三つの半導体技術を統合
Samsung Electronicsによると、AIアクセラレータ上への直接積層により、従来構成で両者の間にあった中間配線をなくせるという。HBMから演算器までの経路は、ロジックチップやインターポーザーを経由する構成から、より直接的な接続へ変わる。
この構成には、HBMを作るメモリー技術に加え、AIアクセラレータ側を形成するファウンドリープロセスと、異なる半導体を上下に接続する先端パッケージング技術を統合する。zHBMは、三つの技術領域を一つの積層アーキテクチャへまとめている。