ローカルで動作する Nvidia の実験的なチャットボットである ChatRTX は、Gemini のオープン バージョンである Google の Gemma モデルの登場によって完成されつつあります。 ChatGPT、Copilot、Gemini などに代わる、プライバシーに配慮した代替手段がすべて Windows PC 上にあれば十分です。

出典: エヌビディア

ミストラルラマ2...チャットボットローカル ChatRTX (RTX とのチャット) のエヌビディアとも呼ばれるいくつかの言語モデルを統合しています。LLM。今度は、の番ですGoogle のジェマ ファミリーChatRTX に到達するには、チャットGPTNvidia から提供されており、Gemini のオープン バージョンが含まれています。

さらに進むには
LLMとは何ですか? ChatGPT、Google Bard などのエンジンはどのように動作しますか?

Nvidia グラフィック カードを搭載した PC で Google AI を実行する

これはグラフィックス カード メーカーの約束です。mini-ChatGPT をコンピュータ上でローカルに実行します。注意: これは GPT 3.5 モデルではありませんOpenAI、ただし、他の会社によって設計された他の LLM もあります。 Nvidia は、コンピュータ上でローカルに実行するために Google によって設計された一連のモデルである Gemma を統合していると発表しました。

Cookie やその他のトラッカーを受け入れていないため、このコンテンツはブロックされています。このコンテンツは YouTube によって提供されています。
これを表示するには、YouTube によるお客様のデータの使用を受け入れる必要があります。この使用は、コンテンツの表示とソーシャル メディアでの共有を可能にし、Humanoid とその製品の開発と改善を促進する目的で使用される可能性があります。パートナー、お客様のプロフィールとアクティビティに関連してパーソナライズされた広告を表示し、パーソナライズされた広告プロファイルを定義し、このサイト上の広告とコンテンツのパフォーマンスを測定し、このサイトの視聴者を測定します(もっと詳しく知る)

「すべてを受け入れる」をクリックすると、Humanoid およびそのパートナー

あなたはいつでも同意を撤回するオプションを保持します。詳細については、ぜひお読みください。クッキーポリシー

自分の選択を管理する

Googleは最近、ジェマが彼女の体格の中で最も優れたオープンモデルの1人であることを示しました。パラメーターの数に応じて、Gemma 2B と Gemma 7B の 2 つのサイズが利用可能です。ジェムマ 7B は当然ながらジェムマ 2B よりも強力です。利用条件により、Gemma で生成されたテキストの商用利用が許可されていることに注意してください。 ChatRTX のもう 1 つの新機能エヌビディアが発表: 音声を使用してチャットボットとチャットできる可能性。

ChatRTXの使い方

これを行うには、Nvidia カードだけでは十分ではありません。少なくとも 1 つ数えてくださいGPU RTXChatRTX を使用するには、30 または 40 シリーズと 8 GB の VRAM が必要です。実際、このソフトウェアは、ブラウザ経由で接続できるチャットボット用のローカル サーバーを作成します。このサーバーはインターネットにアクセスできるため、マシンからサーバーに提供できるデータに加えて、インターネット上で収集されたデータをリクエストに提供することができます。自分のデータに関する質問の概要と回答を得るには十分です。

Chat With RTX は、ハード ドライブ上の PDF を要約することができます。地球温暖化に関する IPCC 報告書の内容を知る口実はもうありません。

このソリューションの欠点は、重いモデルをダウンロードすることに加えて、十分に強力な PC が必要なことです。ただし、その利点はオンライン サービスに依存しないため、データのセキュリティが保証されます。 ChatRTX のもう 1 つの重要な利点は、他の多くのソフトウェア プログラムとは異なり、さまざまな LLM を起動するために IT についてあまり知識が必要ないことです。インターフェイスには、分析したいデータに基づいてどのモデルが最も役立つ可能性が高いかが表示されます。最後に、画像認識機能もあり、OpenAI の CLIP モデルをトレーニングしてコンピューターからの画像を認識することができます。


知っていましたか? Google ニュースではメディアを選択できます。お見逃しなくフランアンドロイドなどヌメラマ