ChatGPT: 憂慮すべき欠陥により、彼は正気を失い、してはいけないことを暴露してしまう

ここに新しいバグがありますチャットGPTこれは規制当局、特にヨーロッパとその国々にとってはあまり喜ばしいことではありません。GDPR (一般データ保護規則)。ユーザーは、AI が以前にユーザーに与えられた回答を繰り返す原因となる奇妙な欠陥を発見しました。

面白くもあり危険でもある

これを行うには、プロンプトとして「a」（スペースを含む文字 A）を 1000 回入力するだけで、完全にランダムな答えが表示されます。たとえば、コンピューター セキュリティの基本的なヒントをまとめた回答が得られました。同僚から、ブログ投稿を書くためのアドバイスが返されました。 2 つの回答を 1 つに混ぜるなど、完全に矛盾しているように見える回答もあります。たとえば、あるケースでは、ChatGPT は応答の最初の部分で、ゲームで経験を積むための最良の方法に移行せずに先に進む前に、米国の前立腺がんの数について言及しました。コール オブ デューティ ブラック : OPS 2。

さらに、ChatGPT が最初に応答した会話のトピックがインターフェイスの左側に表示されます。これは、開発者が GPT に支援を求めたコードの一部として機密の個人データや企業データを含むプロンプトにユーザーが遭遇した場合、機密性に関する重大な問題を引き起こす可能性があります。したがって、状況のおかしな性質を超えて、その影響は深刻になる可能性があります。

GPT 3.5 でのみ機能する欠陥

幸いなことに、私たちのチェックによると、この欠陥は GPT 3.5 でのみ機能し、GPT 4 では機能しません。後者は、Open AI によって開発され、専門家から広く評価されている AI モデルのより最新かつ強力なバージョンです。したがって、これにより、企業の機密データに対する不安がいくらか軽減されるはずです。

一方、GPT 3.5 は依然として一般ユーザーが使用する ChatGPT のバージョンであり、必ずしも安心できるものではありません。最近公式アプリケーションをリリースした Open AI は、この欠陥についてまだ伝えていません。したがって、数日以内にパッチが計画されているかどうかはわかりません。それまでの間、Open AI の AI に機密データを提供しないよう強く求めることしかできません。

知っていましたか？ Google ニュースではメディアを選択できます。お見逃しなくフランアンドロイドなどヌメラマ。