ローカルで実行される Nvidia の ChatGPT は、ますます多様な AI を提供します

ミストラル、ラマ2...チャットボットローカル ChatRTX (RTX とのチャット） のエヌビディアとも呼ばれるいくつかの言語モデルを統合しています。LLM。今度は、の番ですGoogle のジェマ ファミリーChatRTX に到達するには、チャットGPTNvidia から提供されており、Gemini のオープン バージョンが含まれています。

さらに進むには
LLMとは何ですか? ChatGPT、Google Bard などのエンジンはどのように動作しますか?

Nvidia グラフィック カードを搭載した PC で Google AI を実行する

これはグラフィックス カード メーカーの約束です。mini-ChatGPT をコンピュータ上でローカルに実行します。注意: これは GPT 3.5 モデルではありませんOpenAI、ただし、他の会社によって設計された他の LLM もあります。 Nvidia は、コンピュータ上でローカルに実行するために Google によって設計された一連のモデルである Gemma を統合していると発表しました。

Googleは最近、ジェマが彼女の体格の中で最も優れたオープンモデルの1人であることを示しました。パラメーターの数に応じて、Gemma 2B と Gemma 7B の 2 つのサイズが利用可能です。ジェムマ 7B は当然ながらジェムマ 2B よりも強力です。利用条件により、Gemma で生成されたテキストの商用利用が許可されていることに注意してください。 ChatRTX のもう 1 つの新機能エヌビディアが発表: 音声を使用してチャットボットとチャットできる可能性。

ChatRTXの使い方

これを行うには、Nvidia カードだけでは十分ではありません。少なくとも 1 つ数えてくださいGPU RTXChatRTX を使用するには、30 または 40 シリーズと 8 GB の VRAM が必要です。実際、このソフトウェアは、ブラウザ経由で接続できるチャットボット用のローカル サーバーを作成します。このサーバーはインターネットにアクセスできるため、マシンからサーバーに提供できるデータに加えて、インターネット上で収集されたデータをリクエストに提供することができます。自分のデータに関する質問の概要と回答を得るには十分です。

このソリューションの欠点は、重いモデルをダウンロードすることに加えて、十分に強力な PC が必要なことです。ただし、その利点はオンライン サービスに依存しないため、データのセキュリティが保証されます。 ChatRTX のもう 1 つの重要な利点は、他の多くのソフトウェア プログラムとは異なり、さまざまな LLM を起動するために IT についてあまり知識が必要ないことです。インターフェイスには、分析したいデータに基づいてどのモデルが最も役立つ可能性が高いかが表示されます。最後に、画像認識機能もあり、OpenAI の CLIP モデルをトレーニングしてコンピューターからの画像を認識することができます。

知っていましたか？ Google ニュースではメディアを選択できます。お見逃しなくフランアンドロイドなどヌメラマ。