最新の HBM3e プロセッサが画期的なメモリと帯域幅、優れたパフォーマンスを実現するマルチ GPU の接続機能、簡単に拡張可能なサーバー設計を提供
ロサンゼルス、SIGGRAPH —2023 年 8 月 8 日 — NVIDIA は本日、世界に先駆けて HBM3e プロセッサを搭載した新しい Grace Hopper Superchipをベースにした、アクセラレーテッド コンピューティングと生成 AI の時代に向けて構築された次世代の NVIDIA GH200 Grace Hopper™ プラットフォームを発表しました。
この新しいプラットフォームは、大規模言語モデル、レコメンダー システム、ベクトル データベースにわたる、世界で最も複雑な生成 AI ワークロードを処理するために作成され、幅広い構成で利用可能になります。
そのデュアル構成は、現行世代製品と比較して最大 3.5 倍のメモリ容量と 3 倍の帯域幅を提供し、144 個の Arm Neoverse コア、8 ペタフロップスの AI パフォーマンス、および 282GB の最新の HBM3e メモリ テクノロジを備えた単一サーバーで構成されます。
NVIDIA の創業者/CEO であるジェンスン フアン (Jensen Huang) は次のように述べています。「生成 AI に対する急増する需要に応えるために、データセンターには特殊なニーズを備えたアクセラレーテッド コンピューティング プラットフォームが必要です。新しい GH200 Grace Hopper Superchip プラットフォームは、スループットを向上させるための優れたメモリ テクノロジと帯域幅、妥協することなくパフォーマンスを集約するために GPU を接続する機能、そしてデータセンター全体に簡単に展開できるサーバー設計により実現します」
この新しいプラットフォームは Grace Hopper Superchip を搭載しており、NVIDIA NVLink™ （https://www.nvidia.com/ja-jp/data-center/nvlink/）によって追加の Superchip に接続できるため、これらが連携して生成 AI 向けの今日の巨大なモデルを展開することができます。
デュアル構成では、この高速なコヒーレント テクノロジにより、GPU が CPU メモリにフル アクセスできるようになり、合計 1.2 TB の高速メモリが提供されます。
現在の HBM3 より 50% 高速な HBM3e メモリは、合計 10TB/秒の合計帯域幅を実現し、新しいプラットフォームは、3 倍高速なメモリ帯域幅でパフォーマンスを向上させながら、旧バージョンより 3.5 倍大きいモデルを実行できます。
Grace Hopper の需要の高まり
主要メーカーはすでに、以前に発表された Grace Hopper Superchip をベースにしたシステムを提供しています。このテクノロジの幅広い採用を促進するために、HBM3e を備えた次世代 Grace Hopper Superchip プラットフォームは、今年初めの COMPUTEX で発表された NVIDIA MGX™（https://www.nvidia.com/ja-jp/data-center/products/mgx/） サーバー仕様と完全な互換性があります。MGX を使用すると、あらゆるシステム メーカーが、Grace Hopper を 100 以上のサーバー バリエーションに迅速かつコスト効率よく追加することができます。
提供時期
主要システム メーカーは、2024 年の第 2 四半期に、このプラットフォームをベースとしたシステムを提供する予定です。
Grace Hopper についての詳細は、ジェンスン フアンの SIGGRAPH 基調講演（https://www.nvidia.com/ja-jp/events/siggraph/）をオンデマンドでご覧ください。
NVIDIA について
1993 年の創業以来、NVIDIA （https://www.nvidia.com/ja-jp/）(NASDAQ: NVDA) はアクセラレーテッド コンピューティングのパイオニアです。NVIDIAが 1999 年に発明した GPU は、PC ゲーム市場の成長を促進し、コンピューター グラフィックスを再定義して、現代の AI の時代に火をつけながら、産業用メタバースの創造を後押ししています。NVIDIA は現在、業界を再形成しているデータセンター規模の製品を提供するフルスタック コンピューティング企業です。詳細は、こちらのリンクから：https://nvidianews.nvidia.com/