MicronがGDDR6Xの詳細を発表。メモリの未来、それとも専用DRAM？

Micron Technologyは、先週の仮想ブリーフィングで、NvidiaのGeForce RTX 30シリーズグラフィックスカードで使用されている最新のGDDR6X SGRAMに関する追加の詳細を共有しました。 同社は、新しいタイプのメモリを可能にするテクノロジーを10年以上にわたって実験しており、GDDR6X SGRAMはJEDECによってまだ標準化されていないと述べました。 現在、NvidiaだけがGDDR6Xメモリを使用していますが、Micronはこれが時間の経過とともに変化することを期待しています。

PAM4シグナリング：2006年からDRAMのために探究

マイクロンのドイツのミュンヘンにあるグラフィックスDRAMデザインセンターは、インフィニオンから長らく存在していたDRAMスピンオフであるキマンダにデザインセンターが属して以来、グラフィックスメモリの革新の歴史を持っています。 これらのラボのエンジニアは、業界初のGDDR5、GDDR5X、そして現在GDDR6Xチップを量産しました。 実際、マイクロンはGDDR5Xの唯一のメーカーであり、現在はGDDR6Xの唯一のメーカーです。

4レベルのパルス振幅変調（PAM4）シグナリングは、GDDR6Xメモリの重要な機能です。 この技術は、4つの信号レベルを使用してサイクルごとに2つのデータビットを送信するため、前世代のSGRAMタイプと比較して、動作周波数の実効帯域幅が2倍になります。 さらに、PAM4は（ただしコストはかかりますが）より高いデータ転送速度への扉を開きます。 その結果、PAM4は1クロックあたりの効率と速度の両方を向上させます。

ただし、少し注意が必要です。 GDDR6のバースト長は16バイト（BL16）です。つまり、2つの16ビットチャネルはそれぞれ、1オペレーションあたり32バイトを提供できます。 GDDR6Xのバースト長は8バイト（BL8）ですが、PAM4シグナリングのため、各16ビットチャネルも操作ごとに32バイトを提供します。 そのため、GDDR6Xは同じクロックでGDDR6よりも高速ではありません。

PAM4シグナリングは、長年Infinibandなどのデータセンターネットワーキング標準に使用されており、4レベルコーディング自体は特に新しいものではありません。 PAM4が大規模なデータセンターおよびスーパーコンピューター用に予約されたままである主な理由は、従来のPAM2/NRZ変調と比較した場合の実装コストです。

しかし、高いコストは研究室での技術の探査を妨げるものではなく、これはマイクロンの米国支社の科学者が2006年以来行ってきたことです。その過程で、彼らは45件の特許を付与されました。

「マイクロンでは、2006年以降、メモリ内でPAM4を利用する方法を科学者に調査してもらいました」と、マイクロンのグラフィックセグメント担当ディレクター、ラルフエバートは述べています。 「私は開発者と科学者を区別するために、科学者と意図的に話しました。これらはイノベーションの基礎を実際にやっている人たちでした。彼らは基本的にこのPAM4テクノロジーを採用し、DRAMでそれをどのように使用できるかを理解しようとしました。

長年のPAM4の調査の結果、Micronは、テクノロジーをグラフィックスメモリに適用する時がきたと感じました。 2007年（GDDR5）から2018年（GDDR6）へのGDDRの進化は、アーキテクチャの点で非常に簡単でした（BL8への復帰はあります）。そのため、新しいシグナリングスキームを導入するには、Micronが米国の科学者とドイツのエンジニアを結集する必要がありました。

「科学者は、チップに署名したGDDR開発者と協力して作業しなければなりませんでした」とEbertは言いました。 「また、システムおよび大量生産の観点から課題を理解するシステムおよび製品エンジニアと緊密に連携しました。」

今日わかっているGDDR6Xの作業は、3年弱前の2017年後半に始まりました。通常、新しいタイプのDRAMを市場に投入するには、通常、社内プロジェクト（ 少なくともメモリデバイスレベルでは）、Micronがすでに使用していたテクノロジの実装は非常に迅速に行われました。 それには理由があります。

Nvidiaとの緊密なコラボレーションで開発

新しいタイプのメモリは、特定のアプリケーションだけでなく、特定の顧客も考慮して開発されています。 Nvidiaは、GDDR5XとGDDR6（および2000年代初頭のGDDR2とGDDR3）を使用した最初の会社でした。そのため、GDDR6Xプロジェクトの初期にMicronと契約したことも、それほど驚くことではありません。 実際、Micronによれば、NvidiaはMicronに、GDDR6よりも高いパフォーマンスを提供できるディスクリートメモリソリューションを求めました。

「もちろん、[…]あなたは顧客と協力する必要があります」とエバートは言った。 「お客様は、お客様と協力して作業する必要があります。理想的には、長年にわたって確立されている密接なビジネスと技術のコラボレーションに依存する必要があります。製品は最初からアプリケーションで機能します。 」

PAM4シグナリングはメモリサブシステムの一般的な動作方法を変更するため、NvidiaはGDDR6X用のまったく新しいメモリコントローラーとPHYを開発する必要がありました。これまでにGDDR6X製品を発表したIP設計会社がないという事実に基づいて、Nvidiaがすべてを社内で設計したようです。

現在、Nvidiaは、主にゲーマー向けのGA102 GPUベースのGeForce RTX 3080/3090グラフィックスカードでGDDR6Xを使用しています。最終的には、同じチップとGDDR6Xメモリを搭載したQuadro RTXプロフェッショナルグラフィックスカードも提供する予定です。一方、Micronによると、GDDR6XはAIおよびHPCアプリケーションにも使用され、どちらもNvidiaのGeForce RTXの外部にあります（これらのカードは、AIのFP16およびFP32テンソルパフォーマンスとHPCのFP64パフォーマンスに関して制限されているため）およびQuadro RTXフォーカス。おそらくMicronは架空の使用法を意味するか、GA102を搭載したNvidia TitanシリーズカードがAIおよびHPCに適切なパフォーマンス（キャッピングなし）を提供することを意味します。

NvidiaはMicronの唯一のGDDR6X発売パートナーですが、MicronはGPU開発者専用の新しいタイプのメモリを設計していないことを強調しています。 DRAMメーカーは、他の企業にもGDDR6Xを提供する予定です。

「私たちは今、これを業界に提供し、開放し始めています。GDDR6Xは顧客固有ではありません」とEbert氏は述べています。 「私たちは他の顧客が前進することに関心を持っていることを期待し、それから私たちはそれらにも関与します。」

PAM4を備えたGDDR6X：製造は難しいが、HBM2よりも安い

Micronによると、PAM4は、GDDR6Xメモリデバイスの書き込みデータキャプチャ回路（レシーバー）を再設計して、4つの異なる信号レベルを正確にサンプリングして解決する必要があったという。 そのために、各GDDR6X DRAMには、I / Oおよびデータバス反転（DQ / DBI）ピンごとに3つの入力サブレシーバーが組み込まれています。 ホストは、書き込みトレーニングシーケンス中にリファレンスVREFD電圧レベルを微調整できます。 GDDR6Xの出力ドライバーも再設計する必要がありましたが、Micronは、再設計は従来の方法に依存していたと言います。

Micronは、GDDR6Xチップは前世代のGDDR6デバイスよりも製造コストが高いことを認めています。さらに、非常にクリーンで安定した信号が必要です。そのため、GeForce RTX 3080/3090カードに電力を供給するNvidiaのGA102 GPUのメモリコントローラーは、非常にクリーンで安定した電力を確保するために独自の電源レールに配置されます。

Micronによると、電力といえば、パフォーマンスが大幅に向上したため、GDDR6XはデバイスレベルでGDDR6よりも電力効率が15％高い（7.25 pj /ビットvs 7.5 pj /ビット）ことに注意する必要があります。

Micronによると、全体として、GDDR6Xチップとその実装はGDDR6よりも高価ですが、HBM2クラスのメモリよりもかなり安価です。 GDDR6Xはスタッキングを必要とせず、工場ではんだ付けできるディスクリートチップとして出荷されます。ディスクリートDRAMのインフラストラクチャ全体は何十年も存在しており、すべてのプロセスは使い慣れていて安価です。対照的に、HBM2 KGSD（正常なスタックダイ）は、半導体工場で組み立てられ、別の工場のクリーンルームのGPUの隣のインターポーザーに配置される必要があります。

「より高性能のDRAMは、通常、コストも高くなります」とEbert氏は述べています。 「GDDR6Xの大きな利点は、一定のコスト範囲内にとどまりながら、パフォーマンスの基準を大幅に引き上げることができることです。これは、GDDR6Xがディスクリートメモリソリューションであるという事実によって与えられます。GDDR6Xメモリは、他の方法と同様に組み立てることができます標準環境のアドインボードメーカーによるPCB上のメモリ。さまざまなスピードグレードのメモリを調べると、通常、コストアダーに範囲があります。GDDR6Xは、標準的な範囲に合わせて配置しました。これは、主にそれがディスクリートメモリソリューションであるために、顧客に非常に高いコストがかかります。」

Micronは、8 Gb GDDR6Xデバイスのダイサイズを開示しておらず、8 Gb GDDR6デバイスと比較していません。同社は、これがPAM4シグナリングを使用する最初のタイプのメモリであり、後者はさまざまな種類の革新への扉を開く画期的なものであることを強調しています。

「PAM4は課題でした。この画期的な進歩により、これは前進できると信じています」とMicronのグラフィックスDRAMのディレクターは述べています。 「これは、DRAM業界を変えると私たちは信じています。私たちはこれを行った最初の業界であり、かなり長い間これに取り組んできました。」

GDDR6Xは密度とデータレートをスケーリング

現在、Micronは、19 Gbpsおよび21 Gbps定格の8 Gb GDDR6Xチップを提供しています。 新しいメモリデバイスは、同社の実績のある第4世代の10 nmクラスのプロセス技術（別名1αnm）を使用して製造されています。 同社は、容量と速度の両方の観点からGDDR6Xを拡張するためのロードマップを持っています。

翌年、Micronはラインナップに16 Gbの密度を追加し、時間の経過とともにより高速なチップも提供する予定です。 現在、MicronがGDDR6Xの唯一の生産者であり、Nvidiaが唯一の顧客であるため、GDDR6Xの進化は、Nvidiaの要求とMicronの量産能力に依存しています。 ここでの重要なメッセージは、GDDR6Xが21 Gbpsを超えるパフォーマンスの点で拡張するように設定されていることです。

GDDR6X：JEDEC標準ではありませんが、独自仕様ではありません

GDDR6Xをできるだけ早く完成させ、NvidiaのAmpere GPUで動作させるために、2社はほぼステルスモードで動作しました。 両社は標準化のために仕様をJEDECに提出したことがないため、GDDR6Xは現時点でMicronからのみ入手可能な独自の種類のメモリです。

「現時点では、標準化のためにJEDECに提出されていません」とEbert氏は述べています。

GDDR5Xは主にMicronによって開発され、他の業界からの入力は（もしあれば）ほとんどありません。 JEDECは、マイクロンがGDDR5Xの量産を開始する前に、この規格を正式に公開し、組織のメンバーが利用できるようにしました。 ただし、Nvidia以外の誰もGDDR5Xを使用しておらず、Micron以外の誰もこのタイプのメモリを製造していませんでした。

GDDR6Xはグラフィックス以外にも使用できます。

従来、GDDRタイプのメモリは、ほとんどグラフィックカードとゲームコンソールにのみ使用されてきました。 GDDR6により、Micronとその同業他社は、高帯域幅を必要とする他のアプリケーション用のグラフィックスDRAMを宣伝し始めました。潜在的なユースケースの中で、彼らは自動車、ネットワーキング、FPGAアプリケーションをターゲットにしています。 Micronは、GDDR6Xが非GPU市場に対応できることを期待していますが、ここでは実際の約束はありません。

今日のGPUはさまざまなAIアプリケーションで広く使用されているため、当然のことながら、トレーニングおよび推論アプリケーションは、同社が非グラフィックス分野向けのGDDR6Xについて語ったときにMicronの説明会で言及されました。一方、NvidiaはTitanシリーズのグラフィックスカードをゲーマー、AI愛好家、およびさまざまなプロシューマーに向けているため、NvidiaがTitan Ampereモデルを発表すれば、MicronのGDDR6Xはこれらの市場に技術的に対応します。

Micronは新興市場に対応するために、メモリ自体だけでなく、メモリコントローラIP、PHY IP、検証IPも提供する必要があります。これらの種類のものは、エイブリー、ケイデンス、ラムバス、シノプシスなどのIP設計会社によって提供されます。 GDDR6Xの旅はまだ始まったばかりなので、IPハウスは業界によるGDDR6Xの潜在的な需要を想定して、追いつく必要があります。特にGDDR6XがJEDECでサポートされている業界標準ではないことを考えると、これは正確には保証されていません。

Micronは、CPUがGDDR6Xを使用できるという興味深い発言をしました。

「歴史的には、CPUを搭載したGDDR DRAMの業界を妨げるものは何もない」とEbert氏は語った。 「この場合も同じです。しかし、これはCPU企業が行わなければならない決定です。」

グラフィックメモリの未来：HBMでもPAM4が存続

Micronにとって、GDDR6Xは非常に補完的な製品であるだけでなく、PAM4シグナリングをDRAMにもたらすためのその成果の集大成でもあります。 このタイプのコーディングはDDR5 SDRAMには使用されませんが、Micronはそれが長期的に見ればメモリの未来であると信じています。

「したがって、GDDR6XはPAM4を導入した場所であり、それが確実に前進しているのを見ることができます」とMicronのグラフィックスメモリ担当ディレクターは述べています。 「PAM4は他のメモリ規格でも使用できる可能性があります。この種のテクノロジは、CPUまたは当社の他のプロセッサを使用する企業で使用される可能性があります。

実際にPAM4は、現在使用されているよりもはるかに広く業界で使用されます。 2021年に予定されているPCIe 6.0は、PAM4シグナリングを使用して、より高い効率とより高いデータレートを抽出します。 PCIeの幅広い採用を念頭に置いて、CPUとASICの企業は、最終的にはPCIe 6.0とPAM4の両方をサポートすることになります。 PCIe 6.0で4レベルのパルス振幅変調を使用する方法を業界が学ぶとすぐに、それは他の場所にも確実に適用されます。

Micronは、PAM4を最初にLPDDRテストチップに実装して、このテクノロジーを実験したと語った。さらに、このストーリーの準備中に発見された特許によると、Micronは、3年前にPAM4およびPAM8シグナリングを備えたスタックドHBMクラスメモリの特許を取得しています。

HBMタイプのメモリは、ディスクリートDRAMデバイス（QDR、BL8 / BL16など）で使用される負荷を採用する必要があるため、新しいシグナリングを採用できる場合に予測を立てることは困難です。しかし、現在利用可能なHBM2E 3.6 Gbpsチップが4レベルのパルス振幅変調を採用している場合、これはデバイスあたりの帯域幅を2倍の922 GB / sに増やします。つまり、6モジュールの6144ビットDRAMサブシステムは、なんと5.5 TB / sの帯域幅を提供します。しかし、これは現時点では純粋な推測です。

まとめ

マイクロンのGDDR6Xは、4レベルのパルス振幅変調信号方式、つまりPAM4を使用する業界初の量産メモリです。新しいタイプのコーディングは、4つの信号レベル（PAM2の場合は1ビット）を使用してサイクルごとに2データビットを送信し、より高い周波数への扉を開きます。 2006年からPAM4を実験してきたMicronは、PAM4をGDDRだけでなく、DRAM全体の進化と見なしています。 DDR5はPAM4を使用していませんが、MicronはすでにPAM4およびPAM8対応のHBMメモリの特許を取得しています。

DRAMメーカーは、GDDR6XはGDDR6に比べて構築および実装が難しい（そしておそらくコストがかかる）ことを認めています。それでも、初期段階では、GDDR6Xはここでディスクリートメモリチップを扱っているため、成熟したHBM2Eよりも安価です。一方、GDDR6Xは8バイトのバースト長（GDDR6の場合は16バイトから減少）に戻るため、同じピンごとのデータレートで、以前のGDDR6よりも高速ではありません。

この時点でのGDDR6Xの最大の注意点は、Nvidiaからの入力を使用してMicronによってのみ開発されたことです。マイクロンはこの規格をJEDECに提出しておらず、GDDR6Xが業界標準になるかどうかは不明です。 Micronは、GDDR6Xが非グラフィックスアプリケーションに使用されることを期待していますが、他社のサポートなしに新しいタイプのメモリを宣伝することは困難です。