イーロン・マスクが告発、グーグルは自らを擁護：バグと陰謀論の間のアメリカ選挙

元大統領の名前を検索エンジンに入力しても、その大統領に直接関連する結果は何も返されません。さらに悪いことに、歴史的な写真が誤って「偽物」というラベルを貼られてしまうこともあります。これはここ数日で現実となり、米国でメディアと政治の嵐を引き起こしている。この混乱の中心にあるのは、ドナルド・トランプとイーロン・マスクによって検閲で非難されたグーグルとメタ（旧フェイスブック）だ。

事実: アルゴリズムが混乱するとき

すべては単純な Google 検索から始まりました。イーロン・マスクを含むユーザーは、「」と入力すると、ドナルド大統領検索バーに「」を入力しても「」は表示されませんでした。トランプ» 自動提案で。その代わりに、カマラ・ハリスに関するニュースがたくさんあります。

一方、暗殺未遂後のドナルド・トランプを写した写真には「間違い" Facebookで。元大統領を飛び上がらせるには十分だった。彼は即座に検閲を叫び、支持者たちにメタとグーグルを「攻撃」するよう呼び掛けた。

しかし、現実はもう少し複雑です。 Googleはすぐにこれに反応し、オートコンプリート機能に影響を与えるバグであると説明した。 「この特定の問題は政治的領域全体に及ぶバグであり、オバマ前大統領など数人の元大統領のクエリにも影響を与えました。», 会社を特定しました。メタ側では、事実確認システムに誤りがあったことを認識しており、最初は加工された写真に適用されていましたが、残念ながら本物の写真にも適用されました。

検索アルゴリズムとモデレーションアルゴリズムの仕組み

このようなエラーがどのようにして発生するかを理解するには、これらの Web 大手が使用するアルゴリズムの複雑さを詳しく調べる必要があります。

Google のオートコンプリート機能を例に挙げてみましょう。想像に反して、これは単なる辞書のようには機能しません。これは、多くの要素を考慮した複雑なシステムです。

1. 人気の検索
2. 最新ニュース
3. ユーザーの地理的位置
4. ユーザーの以前の検索
5. 不適切または危険なコンテンツを防ぐセキュリティフィルター

この最後の点が、本件で問題となっているように思われる。 Google は、自社のシステムには「政治的暴力に対する組み込みの保護機能」。これらの保護は多くの場合に便利ですが、場合によっては過剰になり、正当なコンテンツをブロックしてしまうことがあります。

メタ側でも、事実確認システムは同様に複雑です。これは、人工知能による自動分析と独立したファクトチェッカーによる人間の介入を組み合わせたものです。

トランプの写真の場合、システムが分類エラーを起こし、本物の画像に誤って「偽」タグを適用したようだ。

Google と Meta は両方とも、発生したエラーについて説明するために迅速に対応しました。しかし、多くの人にとって、これらの説明は依然として不十分です。これらの「バグ」が情報を操作したいという意図的な願望を隠さないようにするにはどうすればよいでしょうか?

X (旧 Twitter) のメッセージ スレッドで、Google コミュニケーションズは状況を明確にしたいと考えていました。過去数日間、X の一部の人々は、検索が特定の用語を「検閲」または「禁止」しているとの主張を投稿しました。これは事実ではありません。私たちはこの事実を正したいと考えています。»

同社はこうも強調した。オートコンプリートは、迅速な検索を支援するための単なるツールです。いつでもどのような天気予報が表示されているかに関係なく、いつでも必要な天気予報を検索し、結果や画像などに簡単にアクセスできます。»。

こうした懸念に直面して、Google は透明性への取り組みを繰り返し強調しました。「私たちのシステムはほとんどの場合非常にうまく機能しますが、予期せぬ予測や不完全な予測が見つかったり、バグが発生したりする場合があります。弊社としては、問題が発生した場合には、お客様が探している情報を迅速かつ簡単に見つけられるように改善を加えてまいります。»。