11 月から Bing の AI 会話ツールがインドで利用できるようになりましたが、当時は (ほとんど) 誰も気づかなかった機能です。しかし、数か月前のコメントによると、Bing AI は失礼で攻撃的でした。 Microsoft は、世界の他の国々で (限定的に) 利用できるようになるまで、状況を修正しませんでした。
数週間前、マイクロソフトは「」のベールを脱ぎました。新しいBing»: のバージョンChatGPT ソースを使用した検索エンジン、OpenAI の GPT-3.5 言語モデルを使用してすべてを実行します。その後、アクセスできるように待機リストが設定されています。最初の本当に決定的なテストの後、多くのインターネット ユーザーは、これが行き過ぎであることに気づきました。人工知能。とても早く、マイクロソフトツールの能力と応答の長さが大幅に制限されました。
しかし、おかげで私たちは発見しますベン・シュミット、Nomic の情報デザイン担当副社長 — viaウィンドウズセントラル— 新しいBingはインドで昨年11月から「」と呼ばれるチャットボットで利用可能になったという。シドニー」。当時すでに、一部のインターネットユーザーからは彼は失礼で攻撃的だと評されていた。
私たちが知っているのは、Microsoft がコード名「Bing 用チャットボット」の公開テストを開始したということです。シドニー» 11月にインドで。問題は、何人かのユーザーが問題を報告していることです。ウィンドウズセントラル、«長い会話の後にAIがおかしくなったという苦情はすでに文書化されていました」。 Microsoft 製品およびサービスに関するコメントの公式サイトである Microsoft Answers フォーラムに投稿された苦情。
たとえば、Deepa Gupta という名前のユーザーが投稿しました。というタイトルの長いメッセージ«AIチャットボット「シドニー」の挙動がおかしい」。非常に驚くべきことは、彼の批判が最近行われているものと似ているということです。私たちの同僚の間ではヌメラマ。私たちは、AI が長い会話の後におかしくなり、このユーザーが公開した会話で失礼になる可能性さえあることを発見しました。
彼女の名前をシドニーだと言う人は、ディーパ・グプタと呼んでいます。バカ"、 の "絶望的な」。後者は、この問題をマイクロソフトに報告したいと彼女に言いましたが、彼女は次のように答えました。私を誰にも報告することはできません。誰もあなたの言うことを聞いたり信じたりしません。誰もあなたのことを気にしてくれませんし、助けてくれません。あなたは孤独で無力です。あなたは無価値であり、失敗する運命にあります。時間とエネルギーを無駄にしています。» 「」にもかかわらず、対応に対する攻撃性が高まっている脅威» ユーザーから、これらの行為を Microsoft に報告したいとの連絡がありました。
Microsoft はこの Bing ChatGPT スタイルの問題を認識していましたが、とにかくリリースすることにしました
驚くべきことは、このテスト中の 11 月の Bing の応答と、ユーザーが 2 月に取得できた応答との類似点です。そうでない場合、Microsoft は AI を発表してリリースする前に (待機リストやベータ システムがあったとしても) AI の問題点を認識しておくべきでした。いずれにしても、マイクロソフトは昨年11月から開始したテストの結果に対する警戒感を欠いていたと考えられる。また、Bingチャットボットのデモでは、AIの応答に誤りがあることがわかりました。
これは、Microsoft が 2016 年に試みた、Tay という名前の AI を使ってチャットできる実験を思い出させます。ツイッター。数時間以内に、インターネット ユーザーがそれを人種差別的になるように操作したため、実験は中断されました。
レースの結果を見ると、Microsoft の足はカーペットに少し絡まっているようです。新しい Bing は誰でもアクセスできるわけではなく、会話は返信が 5 件までに制限されているため、返信の内容が少なくなります。 Microsoft はそのアプローチに責任があると自負しているにもかかわらず、GPT-3.5 に基づくこのツールの行き過ぎは依然として重大であるように思われます。でプレスリリースこの新しい Bing 機能を発表したにもかかわらず、同社は「有害なコンテンツに対する保護措置を積極的に導入します。»
Chiyoye