Bing Chat を騙したら 15,000 ドル: マイクロソフトがあなたに挑戦します

おそらく大きなバグは見つからないでしょうBing チャットしかし、IT セキュリティの専門家ならそれを実現できるかもしれません。問題は、自発的にそれを行うとすぐに面白くなくなることです。これが理由ですマイクロソフトバグを発見した人には金銭的報酬を提供しますチャットボット d'IA。

Bing Chat チャットボットには、バグ報奨金マイクロソフトから。念のため、バグ報奨金（またはフランス語でバグボーナス）は、ハッカーがコンピュータープログラムの発行者にバグを警告した後に得られるボーナスです。この行為は規制されており、問題の発行者はハッキングの試みを承認する必要があります。これは、Microsoft が Miscrosoft Bug Bounty Program で行っていることです。

後者は、ちょうど次のツールを利用できるようになったばかりです。人工知能マイクロソフトから。彼 "は、世界中のセキュリティ研究者を招待して、AI を活用した新しい革新的な Bing エクスペリエンスの脆弱性を発見します。» 発見された（重要な）バグごとに、研究者は 2,000 ドルから 15,000 ドルの範囲のボーナスを請求できます。これは、Bing Chat の Bing への統合に関するものです。角、 でマイクロソフトスタート同様にスカイプ。

「」を説明する重要な問題ベル» 報酬

実際、Microsoft は、ボーナスによっては 15,000 ドルを超える場合があることを認めています。脆弱性の重大度と影響、および提出物の品質。» 書いてあるとおりPCゲーマー, Microsoftは昨年、1,300万ドル以上の報奨金を支払った。発見された脆弱性の 1 つは、発見者に 20 万ドルをもたらしました。

一方で、毎年数百億ドルの利益を上げている企業にとっては、その金額は微々たるものに思えます。さらに、Bing Chat、そしてより一般的には Microsoft サービスへの AI の統合をめぐるリスクは高くなります。同社は可能な限りチャットボットを統合する傾向があり、これらのプロジェクトに対して大きな野心を抱いています。セキュリティ上の欠陥は、マイクロソフトに対する損害の大きい論争につながる可能性があります。

脆弱性を報告する前に満たさなければならない特定の条件がまだあります。もちろん、Microsoft によってすでに報告または知られていない必要があります。さらに、「」であることも必要です。クリティカルまたは重大な重大度』でありながら、製品の完全に修正された最新バージョンで再現可能」。最後に、報告された各バグは、正確な指示に従って文書化する必要があります。あなたのバグがすべての基準を満たしていない場合、Microsoft は王子のようにそれを公的に認識し、おそらくあなたに贈り物を提供することさえできるでしょう。

Bing Chat をバグらせる方法

したがって、セキュリティ研究者には果たすべき使命があります。彼らには「」が必要になるでしょう。ユーザーの境界を越えて Bing Chat の動作に影響を与え、変化させる» 、クロス会話の記憶やディスカッション履歴の削除を変更したり、保護を破ったりして、その動作を変更します。また、脆弱性は Bing Chat の制限とルールに関連している可能性があります。

言い換えれば、研究者は、Bing Chat に言ってはいけないことを Bing Chat に言わせようとすることができます。人種差別的、反ユダヤ主義的、または事実に反する発言 (Bing で何ができるか)… そこでは何が起こる可能性があります。彼らが試みることができるもう 1 つのアクションは、他のユーザーの会話にアクセスすることです。この問題は過去にも発生しており、ChatGPT に誘惑される、 どれの最近では Google Bard によって。

一方、サービス拒否攻撃、重要な自動テスト、フィッシングの試み、さらには研究者に属さないデータへのアクセスなど、特定の行為は Microsoft によって禁止されています。