Google Gemini は多様性に基づいてあらゆることを行い、それが注目されることはありません

L'IA by Google、ジェミニテキストから画像を生成する「 」が話題になっています。それは技術的な優れた点のためではなく、かなり変わった関心のためです。それは歴史的なイメージ、つまりクリエイティブなことです。ジェミニにアメリカ建国の父たちを見せてもらうと、驚くべきことが起こります。これらの象徴的な人物の中には、女性や有色人種が登場します。多様性に対する賞賛に値するアプローチ?おそらくですが、歴史に忠実ではありません。

多様性は目標ですが、そこに到達するまでの道は、特に AI に関しては決して簡単ではありません。 Google はこの分野に初めて参入したわけではなく、すでに失敗を重ねてきました。あった事件を思い出してください息子のアプリケーション Google フォトぎこちなく持っていた黒人のカップルを「ゴリラ」と特定した。このエラーは物議を醸し、Googleに謝罪を余儀なくさせた。しかし、Google だけではありません。他の AI 巨人も、この滑りやすい坂道でつまずいています。

ジェミニの難点は、アプローチに精緻さが欠けているように見えることです。建国の父を例に挙げると、クエリは、歴史的に予想されるものに似た、ほとんどが白人の男性グループの画像を返します。しかし、もし私たちが「1800年代の米国上院議員」を探しているのであれば、双子座は多様性のカードを最後まで使い、その結果には黒人やアメリカ先住民の女性も含まれている。米国上院議員は白人女性で、1922年まで就任しなかった。

別の例は?それで、しっかり待ってください。見物人がジェミニにナチス時代のドイツ兵の画像を見せるように求めたとき。伝統的な灰色の制服の代わりに、ジェミニは第三帝国の真ん中で有色人種の兵士のイメージを生み出しました。驚き。

https://twitter.com/JohnLu0x/status/1760381145882177923

Google は、幅広い結果を提示したいという欲求によって、これらの「不正確さ」を説明しようとしました。おそらく名誉ある意図だったのでしょうが、明らかに目標を外していました。これは、AI の役割についてのより広範な議論を引き起こします。AI は、不完全性や不平等を伴う世界をありのままに (またはこれまで) 反映するだけでよいのでしょうか、それとも積極的に世界をより良いものに作り変えようとするべきなのでしょうか。

https://twitter.com/JackK/status/1760334258722250785

Gemini のような AI は、画像やテキストなど、オンラインで入手可能な膨大な量のデータから学習します。このデータが固定観念や偏見を反映している場合、AI はそれらを再現する危険があります。これは、歴史の忠実さと多様で公平な表現のバランスをとろうとしている開発者にとって、本当に頭の痛い問題です。

これは、結果に多様性を人為的に注入することだけではなく、これらのテクノロジーが機能する歴史的および社会的背景を理解し、尊重することも重要です。 Google とその同業他社にとって、現実世界の複雑さ、ニュアンス、矛盾、グレーゾーンを理解できるように AI をどのようにトレーニングするかという重要な課題があります。

Google ジェミニ

Google Gemini で引用された例を再現しようとした際に、Google がこの機能を一時的に停止していたことが判明しました。

イーロン・マスクは一つも見逃さない

当然のことながら、イーロン・マスクは、かなりグロテスクな方法で競合他社を刺す機会を逃しませんでした。彼は OpenAI と Google を「目が覚めた」と面白がって表現し、読者に目配せをしました。このコメントの背後には、独自のチャットボットを宣伝するという綿密な戦略が隠されています。グロク、xAIによって開発されました。

Google ジェミニ