イーロン・マスク氏が偽情報に乗り出す

あなたはお気に入りのソーシャル ネットワークを静かにスクロールしていると、アメリカ大統領候補が衝撃的な発言をしている動画に遭遇します。おそらくあなたの最初の本能は、激怒し、共有し、おそらくこの候補者について考えを変えることさえあるでしょう。

しかし、このビデオが人工知能によってゼロから作られた純粋な作品だった場合はどうなるでしょうか?これはまさに、他ならぬイーロン・マスクがシェアした民主党大統領候補カマラ・ハリスの改ざんビデオで最近展開されたシナリオと全く同じだ。

しかし、問題の核心に入る前に、少し技術的な点を説明しましょう。ディープフェイクその通り ？

そしてディープフェイク、デジタルマジックのようなものです。超高度な人工知能アルゴリズムを使用すると、完全に本物のように見えても、実際には完全に捏造されたビデオや音声記録を作成できます。 AI は人の何千もの画像と音声を分析し、その人の声、表情、動きを模倣する方法を学習します。結果 ？超現実的な方法で、誰にでも何でも言わせたり、行動させたりすることができます。

政治におけるディープフェイクの危険性

私たちのビジネスに戻りましょう。イーロン・マスク氏の社長X（旧ツイッター）ドナルド・トランプの熱烈な支持者である彼女は、カマラ・ハリスが大統領に立候補を発表しているとされる動画を共有した。 1億回以上再生されたこのビデオでは、「ハリス」が次のようなことを言っているのが聞こえます。ジョー・バイデンが討論会中についに老衰を露呈したので、私はあなたの民主党大統領候補です« 。

このビデオは、ディープフェイク。本物のカマラ・ハリスはこのような言葉を決して言いませんでした。彼の声と言葉を生成したのはAIだった。そして問題は、イーロン・マスクがそれが偽物であると決して報告していないことです。結果 ？何百万人もの人々が誤解されている可能性があります。

ここからが本当に不気味になります。私たちは文字通り、政治家の口から言葉を発したり、スキャンダルを一から作り出したり、選挙の行方に影響を与えたりすることさえできます。そして、このコンテンツがソーシャルメディア上で拡散するスピードの速さにより、誰かが叫ぶ暇がなくなるずっと前に損害が発生する可能性があります。フェイクニュース！»。

のルールに従って、人々を誤解させたり混乱させたり、危害をもたらす可能性のある、合成、操作された、または文脈から外れたメディア» はプラットフォームでは許可されていません。

しかし X は、風刺はその規定に違反しないと主張する。メディアの信頼性に関して重大な混乱を引き起こさない」。しかし、これらのルールを寛大に解釈したとしても、イーロン・マスク氏によるカマラ・ハリスのディープフェイクの共有はソーシャルネットワークのポリシーに違反しているように見えるだろう。

これらの批判に直面して、イーロン・マスクは彼の特徴的なスタイルで次のように答えました。世界的に著名な権威、サゴン・ディーズナッツ教授» (明らかにこの機会のために考えられた名前)、誰がこう断言したでしょうか。パロディはアメリカでは合法です」。この反応は、ユーモアによって状況を和らげようとしているものの、問題の複雑さと、パロディと潜在的に危険な偽情報の間に存在する曖昧さを浮き彫りにするだけです。

X（ツイッター）