Microsoft は、生成 AI によって作成される可能性のある最も異常な応答に対処するために、「Correction」と呼ばれる新しいツールを開始します。必要なセキュリティですが、疑問も生じます。
Microsoft はセキュリティを促進するために人工知能に関する新機能を発表しました。同社は特に、生成される可能性のある異常な応答を処理する「Correction」と呼ばれるツールを提供しています。
ありえないことを防ぐ
でブログ投稿, Microsoftは、セキュリティ、プライバシー、信頼性を中心とした機能を重視することで、「信頼できる」人工知能を推進したいと説明しています。
「修正」と題されたこのツールは、AI が応答を生成するときに発生する可能性のある異常なエラーをリアルタイムで修正し、修正されたバージョンをユーザーに提供するように設計されています。
によるとウィンドウズセントラル、専門家は、これらのエラーを排除することは不可能である可能性があると警告しています。ワシントン大学の博士課程学生、OS キーズ氏は次のように述べています。
「生成 AI から幻覚を除去しようとすることは、水から水素を除去しようとするようなものです。これはテクノロジーが機能する上で重要な部分です。 »
さらに進むには
AI によって作成された写真を認識するためのヒント (Midjourney、Dall-E、Stable Diffusion、Microsoft Designer など)
実際、完璧な AI は本当に私たちに必要なツールなのかどうか疑問に思うことがあります。テクノロジーは進歩しており、ますます現実的な画像が作成され、偽情報の枠組み。
時々グロテスクなエラーが発生します。GoogleのAIがピザに糊を加えると提案AI の結果をそのまま受け取ってはいけないということを覚えておくのに十分な強固なアンカーを表すことができます。
Cookie やその他のトラッカーを受け入れていないため、このコンテンツはブロックされています。このコンテンツは YouTube によって提供されています。
これを表示するには、YouTube によるお客様のデータの使用を受け入れる必要があります。この使用は、コンテンツの表示とソーシャル メディアでの共有の許可、Humanoid とその製品の開発と改善の促進を目的として使用される可能性があります。パートナー、あなたのプロフィールとアクティビティに基づいてパーソナライズされた広告を表示し、パーソナライズされた広告プロファイルを定義し、このサイト上の広告とコンテンツのパフォーマンスを測定し、このサイトの視聴者を測定します（もっと詳しく知る）
「すべてを受け入れる」をクリックすると、Humanoid とそのパートナー。
同意はいつでも撤回できます。詳細については、ぜひお読みください。クッキーポリシー。
誰もが使えるツール
ウィンドウズセントラルこのツールは Microsoft の Azure AI Content Safety API の一部であり、次のようないくつかのテキスト生成 AI モデルで使用できることがわかります。ラマメタインでチャットGPTOpenAIで。
Microsoft の広報担当者は、このツールは小規模な言語モデルと大規模な言語モデルの両方で動作しますが、後者のモデルでは異なる関連性を持つと述べています。実際、大規模なモデルでは、非常に、または多すぎる量のデータが集約されるため、関連性とは無関係に、単純に答えを出すために、モデル内の関係のない場所で答えを探すことができます。
エラーは AI にとって悪いことだと思うかもしれませんが、人間にとってエラーは最良の批判的思考ツールである可能性があります。
Chiyoye