マイクロソフトの編集 AI が混血歌手を別の歌手と混同する

AIのタイミングを悪くするのが難しいマイクロソフト。米国と欧州では「反人種差別デモ」が本格化しているが、黒人の命も大切»、ツールMicrosoft は、Microsoft News および MSN サービス内で数十人の人間の編集マネージャーを置き換えるために導入しました、混血歌手を別の歌手と混同することで際立っています。

記事の表紙写真の一部として表示されたエラーで、特に顔の識別に関して AI の技術的限界を明らかに示しています。 Microsoft は、本日公開された情報を自社のポータルに中継することを避けるよう、すでに社内指示を出しています。ガーディアン。

人種差別とみなされるイラスト…人種差別を扱った記事

実際、マイクロソフトの編集 AI はイギリスのグループ、リトル ミックスの混血歌手 2 人を混乱させました。これは、リー＝アン・ピノックの写真（上の写真の完全に右側）が、皮肉なことに、彼女のパートナーのジェイド・サールウォール（完全に左側）が被害者となった人種差別を扱った記事のイラストとして掲載された方法です。彼の学校に通っている間。

«@MSN 他のメディア媒体から記事をコピーして貼り付ける場合は、グループ内の正しい混血人物の画像を使用していることを確認する必要があります。」と自身のインスタグラムアカウントで関係者に反論し、彼女が判断するMSNなどのメディアに激怒した。無知な» :

このようなことはリー＝アン・ピノックと私にいつも起こり、あまりにも「ランニングジョーク」になっているほどだ。グループの 4 人のメンバーのうち 2 人の有色人種の女性を区別できないのは腹立たしいです...もっと頑張れ！

Microsoft の AI が犯した過失以外に、出版社内部の反応は控えめに言っても無遠慮に見えます。連絡先ガーディアン, Microsoftは謝罪し、記事のイラスト画像はすぐに修正されたと付け加えた。しかし、同社は現在、編集マネージャーに、特に MSN ポータルから、英語メディアからの恥ずかしい記事を削除するよう強制することで、この誤りを隠蔽しようとしている...AI が十分に中継できる可能性がある。

«新しいロボット編集者がガーディアンなどの外部ニュースサイトから記事を選択するのを防ぐことはできないため、他の人間のスタッフは警戒を怠らず、ロボットが記事が興味深いと判断して自動的にMSN.comに投稿した場合は削除するよう求められている。» とガーディアン紙は説明し、同時に解雇を免れた編集マネージャーたちは「「たとえ削除したとしても、AIがそれを上書きして再度投稿を試みる可能性があるとも警告されています。」

一言で言えば、マイクロソフトは現在、人間の従業員を検閲官として配置し、最悪の事態についてAIが共有するのが適切と判断した恥ずかしい記事を手動で非公開にするよう命令しているようだ。 「現在のあらゆる反人種差別抗議活動を考えると、今は間違いを犯す時ではありません」と、ガーディアン紙から連絡を受けたマイクロソフト編集チームのメンバーは、このエラーが編集 AI の評判に与える可能性のある損害をグループが心配しているだろうと推測したことを示しました。

愛好家のコミュニティに参加してみませんか?私たちの不和ようこそ、ここはテクノロジーに対する相互扶助と情熱の場所です。