PNY のこの RTX 4070 Ti Super が AI で一歩先を行く理由がここにあります

ご存知ないかもしれませんが、GPU の主な特徴は、コンピューターが最新の AAA グラフィックスを正しく表示できないことです。いいえ、GPU は何よりも計算機であり、数秒で何百万もの演算を実行できます。ディスプレイの管理を効果的に可能にする巨大なコンピューティング能力ですが、他の目的、特に AI の世界で使用することもできます。

なぜなら、現在の AI は、多くの計算能力を必要とする非常に高度なアルゴリズムに他なりません。期待される結果を得るために、大量の論理演算を連鎖させ、非常に大量のデータを処理するには十分です。

また、LLM を動作させるために必要なパワーが、最近まで一般の人々にとってまだ達成不可能であったとしても、次のような最新の GPU モデルが最適です。ラ RTX 4070 Ti スーパー デ PNY、状況を変え、国産AIの新しい世界を切り開くために来ました。シンプルな PC 上でローカルにホストされる AI。

AI をローカルで実行しますか?新しい Nvidia GPU でそれが可能になりました

AI の世界とその仕組みに興味がある方は、ChatGPT や Midjourney などの現在のモデルのほとんどが Web インターフェイス経由でのみアクセスできることをご存知でしょう。理由？これらのサービスには、膨大なコンピューティング能力を備えた多数のサーバーに依存する大規模なインフラストラクチャが必要です。個人の手の届かないインフラであり、国内のパーソナライズされた AI へのアクセスはほぼ不可能です。

まあ、ほぼ不可能です。なぜなら、ハードウェアとソフトウェアの両方における最新の進歩が、主流の AI の到来を準備しているからです。より正確で軽量な学習モデルの開発、その利用可能性 (特に Nvidia による)、AI に最適化されたより強力な GPU の出現により、家庭用 PC 上でローカルにホストされる国産 AI への扉が開かれます。

画像生成か会話AIか、選択はあなた次第です。かなり強力な GPU (Nvidia GeForce 4070 Ti Super など、12 GB の RAM を備えた最新世代の Nvidia モデルが機能します) を搭載した PC にインストールされると、LLM はマシンに保存されているデータをフィードして動作します。このようにして作成できます自分の文書の中から情報を検索できるアシスタント、または、PC に保存されている画像や写真から画像を生成する AI です。

この RTX 4070 Ti Super の能力をテストするために、Stable Diffusion で画像を生成するよう要求する簡単なテストを実行し、1 分あたりに作成される画像の数を測定することにしました。タスクをさらに難しくするために、生成される画像のサイズを試してみました。また、ソフトウェアのパフォーマンスへの影響を測定するために、使用する SDK (ONNX または TensorRT) を変更しました。

ONNX を使用すると、4070 TI Super は 512 x 512 ピクセルの画像を非常にうまく生成します。実際、平均して 1 分間にほぼ 25 枚の画像を生成できます。最大の GPU の 1 つが、同じ条件下で 1 分あたり約 16 枚の画像を生成する必要がある競合他社と比較すると、素晴らしいパフォーマンスです。

興味深いのは、推論タスクの GPU パフォーマンスを最適化するために Nvidia によって作成された SDK である TensorRT API を使用する場合です。このような条件下では、RTX 4070 Ti Super は 1 分あたり約 33 枚の画像を作成でき、約 30% の向上になります。

さらに悪いことに、同じテストを実行しましたが、今回は画像のサイズを 1024 ピクセル×1024 ピクセルに拡大しました。一見すると些細な増加のように見えますが、実際にはさらに多くのリソースが必要になります。このような状況下では、ラ RTX 4070 Ti スーパー デ PNYは、平均して 1 分あたり 4 枚の画像を生成できます。この結果は低いように見えるかもしれませんが、それでも競合ブランドのハイエンド GPU の 2 倍の高い結果を維持します。ここでも、TensorRT を使用するとパフォーマンスが向上し、1 分あたりほぼ 1 枚の画像を保存できるようになり、20% 増加しました。

評決

私たちのテストによると、人工知能の点で Nvidia が競合他社に対して持っている優位性を否定することは困難です。 Nvidia のミッドレンジ グラフィックス カードとして位置付けられている RTX 4070 Ti Super は、競合他社が提供できるものより頭も肩も上です (そして、CPU パフォーマンスについては話していませんが、CPU パフォーマンスはほとんど考慮できないほど低いです)。 。

第 4 世代 Tensor コアのおかげで、この GPU は 700 をわずかに超える AI TOPS (Tera Operations per Second) を実現します。これは、1 秒あたり 700 兆回以上の演算を実行できることを意味します。たとえば、CPU の平均は依然として AI GOPS (ギガ オペレーション/秒) でカウントされますが、ハイエンド NPU を搭載した最新世代の CPU は約 40 AI TOPS です。

Nvidia は、Nvidia アーキテクチャに基づいて GPU のパフォーマンスを最適化できる TensorRT により、ソフトウェア レベルでの優位性も改めて証明しました。この利益は非常に印象的であり、現時点でメーカーが AI 計算のリーダーとしての地位を奪っていないことを示しています。

RTX 4070 Ti Super: PNY による AI グラフィックス カード

PNY は、RTX 4070 Ti Super 16 GB XLR Gaming Verto を使用して、AI タスク用に設計されたグラフィックス カードを提供しています。どうやって ？単純に、搭載されているプロセッサーによって開発された生のパワーのおかげです。アーキテクチャベースNvidiaのエイダ・ラブレス氏ここでは、なんと 8,448 個の CUDA コアを数えることができ、ここでは第 4 世代 Tensor コアと第 3 世代 RT コアが追加されています。 16 GB の GDDR6X RAM を追加すると、重いワークロードと何百万もの計算を処理できるカードが完成します。 AI にとっては祝福です。

このような権力には制御が必要であり、PNY はこれをよく理解しています。熱に関連した問題を回避し、それに伴うパフォーマンスの低下を制限するために、メーカーは GPU に非常に完全な冷却システムを装備しました。 3 つの 100mm ファン、多数のヒートシンクを備えた 7 つのヒート パイプ、プロセッサー用の銅製ベース、およびアルミニウム製バックプレート。PNY には偶然を許す余地はありません。

完全で効率的なデバイスですが、この GPU の設計に直接影響します。この力を封じ込め、制御するには、RTX 4070 Ti スーパー広い筐体が必要です。長さは33cmを超え、厚さは7cm近くあるため、スペースを確保する必要があります。

Nvidia は明日の AI の形成にどのように貢献しているのでしょうか?

人工知能が ChatGPT や生成 AI の登場によって一般大衆に定着したのは近年のことだとすれば、多くのプレイヤーはそれよりずっと前から日常的に人工知能を使用しています。たとえば、Nvidia の場合がこれに該当します。後ろにとDLSS特にレイ再構成を備えたバージョン 3.5 では、画質を向上させるために AI を使用するプロセスが大量にあります。アップスケーリング、ノイズ除去、その他の同様のテクノロジーは AI を最大限に活用して、ゲームの流動性と品質を向上させながら、より優れたパフォーマンスを提供します。

純粋なハードウェア レベルでは、Ada Lovelace アーキテクチャを使用した最新世代の Nvidia GPU が AI イノベーションの先鋒となります。したがって、メーカーは特定の用途向けに設計されたデータセンターとグラフィックス カードを提供しています。 Nvidia は、たとえば、Nvidia Drive を備えた自動運転車用に設計されたカードや、たとえば産業用の自動運転マシンに統合されるスーパーコンピューターを提供しています。

ソフトウェアレベルでも同様の見解です。ビデオゲームの世界で培ったノウハウを今に応用生産性向上など幅広い分野へ、ライブストリーミング（Nvidia Broadcast）、デザイン（Nvidia Canvas）、さらにはアプリケーション開発（RTX AI Toolkit）まで。 Nvidia は、AI に取り組みたい人をサポートする多くのターンキー ソリューションも提供しています。 LLM、フレームワーク、ツールキット、その他のドライバー ライブラリは、明日の AI を作成するために簡単に (そして多くの場合は無料で) アクセスできます。