AI には常に偏見があるが、Google の上司には悪気はない

先週、GoogleはGemini生成AIで多くの問題に遭遇した。一部のユーザーはジェミニに「1943 年のドイツの兵士" または "19世紀のアメリカの上院議員」、その後体系的に提案された生成 AI女性または有色人種の画像たとえそれらが歴史的に不正確であり、これらの基準がリクエストに現れなかったとしてもです。

その過程では、控えめに言ってもフィードバックが重要だったと言うだけで十分です。その後、一部のユーザーは AI と呼ばれるものに反抗しました。」目が覚めた”、あるいは”人種差別主義者» 特にイーロン・マスクの側で。 Google 側では、この最初のフィードバックが発見されると、画像生成を改善するために、Gemini での画像生成が一時停止されました。

「これは全く容認できない」

こうした数々の挫折の後、Google のボスであるサンダー ピチャイ氏は、最終的に Google チームに送信されサイトに中継された社内メールで次のように述べました。信号機。監督は暴言を吐かず、ジェミニの結果に失望を隠さなかった。

彼の返答の一部がユーザーを怒らせ、偏見を示していたことは承知しています。はっきり言っておきますが、これはまったく容認できず、私たちが間違っていました。

サンダー・ピチャイ氏はまた、Google チームが協力したことを示唆しています。容赦なく» 修正を加えるため、そしてその「大幅な改善» が作られました。彼はまた、将来このような論争が起こらないようにするために新たな行動を起こしたいと述べている。「構造の変更、製品ガイドのアップグレード、発売プロセスの改善、堅牢な評価と技術的な推奨事項」。サンダー・ピチャイ氏にとって、Google の目標は、それが Gemini であろうと他のサービスであろうと、事実の検索であることに変わりはありません。

当社は常に、製品に関して有益で正確かつ偏見のない情報をユーザーに提供するよう努めてきました。だからこそ、彼らは私たちを信頼しているのです。これは、AI 製品を含む当社のすべての製品に対するアプローチでなければなりません。

しかし、先週書いたように、生成 AI はテクノロジー大手に多くの問題を引き起こさないわけではありません。当然のことながら、すべての AI にはオンラインに書き込まれた内容のみが反映されるため、バイアスがかかります。これは、約 10 年前に Google が遭遇した問題です。黒人を猿に例えたGoogleフォト。最近では、2020 年には、人種差別で非難されたMicrosoftが使用したエディトリアルAI。

生成 AI を提供するほとんどの企業がカーソルを操作しようとするのは、まさに AI に固有のバイアスに対抗するためです。それを避けるために、「」のすべての画像が表示されます。大企業の上司» 生成されるのは白人男性のデータですが、Google は女性や有色人種を含める基準を密かに追加する予定です。しかし、今回は結果を逆サイドに傾けてでもスライダーを少し押しすぎたように思う。