予想通り、Nvidia は火曜日に GTC を利用して、Grace Hopper に敬意を表した新しいアーキテクチャである Nvidia Hopper のベールを脱ぎました。 Nvidia H100 チップは、このアーキテクチャを初めて使用したものです。
GeForce RTX 3000、データ センター向け A シリーズ チップ、プロフェッショナル PC 向け RTX A シリーズ チップを見事に動かした Ampere アーキテクチャの発表から 2 年後、Nvidia は新しいアーキテクチャである Hopper を発表しました。
プロフェッショナル向けのアーキテクチャ
まず最初に、重要な点を説明しなければなりません。 Ampere がゲーム市場とプロ市場の両方向けに設計されたアーキテクチャであったのに対し、Nvidia は新世代の製品のために 2 つのアーキテクチャに取り組むことを選択しました。その間、GTC火曜日、開発者向けのカンファレンスで、Nvidia は専門家向けの Hopper を発表しました。私たちは新学期の始まりを待っていますGeForce RTX 4000 の Ada Lovelace アーキテクチャ。
ただし、Nvidia が今後数年間で一般大衆に何を提供できるかを見極めるために、Hopper が提供する新機能を発見することは依然として非常に興味深いです。
800億個のトランジスタ、4nm製造
これは、Nvidia のすべての最上級の発表です。同社は、Hopper アーキテクチャと、このアーキテクチャを初めて使用した H100 チップの両方を発表しました。 Nvidiaによると、このチップには800億個のトランジスタが集積されており、世界最大かつ最も強力なアクセラレータとなるという。私たちはチップの 1,140 億個のトランジスタの下にいますアップル M1 ウルトラですが、後者は多数のコンポーネントを統合した SoC です。
このチップを作成するために、Nvidia は TSMC とその新しい 4nm 製造プロセスを依頼しました。 Nvidia が 8nm Ampere チップの製造パートナーとして Samsung を選んだことを思い出してください。このチップは最新世代の HBM3 メモリと関連付けることができ、3 TB/秒の帯域幅が可能になります。このような帯域幅を備えているため、Nvidia は、20 個の Hopper H100 チップで世界のインターネット トラフィックをサポートできると発表しました。 AI 分野でのアプリケーションを地球規模かつリアルタイムで想像するには十分です。
Hopper のもう 1 つの特徴的な要素は、Nvidia NVLink の第 4 世代への移行です。これにより、データ センター内で最大 256 個の H100 チップを拡張でき、前世代と比較して帯域幅が最大 9 倍向上します。 H100 チップは、PCI Express 5.0 をネイティブに管理し、このプロトコルを使用してサーバーの帯域幅を最大化する最初のチップです。
Ampere に直面して、Nvidia は、FP8 で 4000 TFLOPS、FP16 で 2000 TFLOPS、FP32/FP64 で 60 TFLOPS という、目がくらむようなレベルに達するまでに 3 ～ 4 倍のコンピューティング能力の向上を発表することを躊躇しません。
Nvidia トランスフォーマー エンジン
Nvidia Hopper アーキテクチャの中心には、チップの AI 機能とパフォーマンスを大幅に向上させる Transformer Engine があります。この名前は、人工知能の分野でますます人気があり、有望なテクノロジーであるトランスフォーマーを直接参照しています。 Google BERT や OpenAI の GPT-3 はトランスフォーマー モデルに基づいています。このモデルは、翻訳、画像分析、健康研究の分野でますます使用されています。
Nvidia によれば、Transformer Engine の統合により、旧世代と比較して人工ニューラル ネットワークを最大 6 倍高速化できるはずです。
Nvidia は、新世代の H100 と Ampere A100 チップのパフォーマンス比較をいくつか提供しました。 Nvidia はシリアル GPU スケーリングにより、パフォーマンスが最大 9 向上し、トレーニング時間を 7 日からわずか 20 時間に短縮すると約束しています。
Nvidia Hopper は、第 3 四半期からプロフェッショナル向けに提供される予定です。同社はすでに、H100を搭載した製品を提供するために、Dell、富士通、Supermicro、Cisco、Atos、Hewlett Packard Enterpriseなどのこの分野の主要パートナーと契約を結んでいます。
Chiyoye