生成人工知能に取り組むいくつかの大企業がホワイトハウスにコミットメントを表明している。彼らは、ツールによって生成されたコンテンツを識別するテクノロジーを開発したいと考えています。現時点では、それがどのように機能するかはまだまったく不明です。
大きな危険の一つは、IA生成的とは、国民を誤解させる可能性があるということです。これは世界中のすべての行政の観察です。さらに、AIツールを販売する企業に対する義務を設けることも検討している。これに応じて、後者は生成されるコンテンツの透明性を高めることに取り組み始めています。これは次の場合ですOpenAI、マイクロソフト、グーグル、メタ、アマゾン、人間的そして語形変化。これら 7 社は、バイデン・ハリス政権と自主的な約束に署名しました。責任あるAIの開発»。
大企業は、AI によって生成されたコンテンツの透明性の向上に取り組んでいます
でプレスリリースホワイトハウスは、これら7社とバイデン・ハリス政権が、これらの最初の取り組みを自発的に行う協定に署名したと示唆した。安心・安全かつ透明性の高いAI技術の発展に貢献します。» アメリカ政府にとって、「これらの新しいテクノロジーを開発する企業には、自社製品の安全性を確保する責任があります。» したがって、3 つの合言葉: 安全、セキュリティ、信頼。
この協定の趣旨は、AIによって生成されたテキスト、画像、ビデオ、音声の共有を制御することです。 OpenAI が書いているように彼のブログ、«この取り組みを行う企業は、詳細な分析を行った後でも、AI システムには引き続き弱点や脆弱性が存在する可能性があることを認識しています。» そしてより一般的には、それらが市場に出された後です。このコンテンツは、国民を誤解させないようにしながら、人間ではなくツールによって生成されたものとして認証される必要があります。ホワイトハウスのファインダーには、「ディープフェイク» ビデオを使用すると、たとえば、ジョー バイデン大統領に言いたいことを言わせることができます。
後者はこれらの企業と議会と会談し、質問する予定だ。目的は、AI をより適切に制御するための法令と法律を制定することです。ジョー・バイデンはすでに大統領令に署名しており、その内容は「連邦政府機関が AI を含む新技術の設計と使用における偏見を根絶し、アルゴリズムによる差別から国民を保護すること。»
なんと「」透かし» 制御は機能しますか: まだ明らかではありません
関係企業は「」を選択する予定です。透かし» というマークをすべての内容に付けて、その旨を示します。生成中にどの AI ツールが使用されたかを示す必要があります。アメリカ政府はこの取り組みを歓迎し、次のように強調しています。この措置により、詐欺や欺瞞のリスクを軽減しながら、AI の創造性を開花させることができます。»
ただし、具体的な技術的解決策については言及されていない。一部の企業ではすでに初期措置が講じられていますが、ケースバイケースです。アルステクニカは、ミッドジャーニーによって生成され、急速に拡散した偽映像によるドナルド・トランプの偽逮捕の話を報じている。同名の研究所はNGOベリングキャットの創設者エリオット・ヒギンズを出入り禁止にした。誰がそれらを作成したのか。
たとえば、OpenAI が言及しているのは、ツールや API の実装です。特定のコンテンツが作成されたかどうかを判断するため» AI システムを搭載。行間では、たとえばインターネット上の記事を読んだ場合、それが書かれたものであるかどうかを OpenAI に尋ねることができることがわかります。チャットGPT。 Midjourney についても同様です。問題の画像がこの AI によって生成されたものであるかどうかを調べるために、逆引き検索システムが利用可能になります。これらのシステムには、コンテンツを生成したユーザーに関する情報は含まれません。
Google側では、彼のブログ同社は、透かしとメタデータを近いうちに自社の生成ツールに統合したいと考えていると述べています。ボタン「この画像について» は検索エンジンに追加され、画像のコンテキストや、初めてオンラインで公開された日時を知ることができます。
生成AI開発者によるその他の施策
上記のウォーターマークの将来の実装に加えて、OpenAI、Microsoft、Google、Meta、Amazon、Anthropic、および Inflection は、一般に公開する前に内部および外部のテストを体系的に実装することに同意しました。これらは独立した専門家によって実行されます。また、全員がサイバーセキュリティへの投資を増やしており、脆弱性の報告も強化されると述べた。この最後の点に関しては、関係企業は「危険な行動などの責任ある弱点の開示を奨励するためのボーナス制度、コンテスト、または賞品»。
また、これらの企業は「業界、政府、市民社会、学界全体で AI リスク管理に関する情報を共有することに尽力する»、ホワイトハウスを指定します。これには、AI の機能、制限、使用の適切な領域と不適切な領域、および社会的リスク (公平性と偏見への影響) に関するレポートが含まれます。
世界中の AI への影響
これらすべてに加えて、バイデン・ハリス政権はパートナー政府と協力すると発表した。AIの開発と使用を管理する強固な国際枠組みを確立すること。» 彼女が話した国には、オーストラリア、ブラジル、カナダ、チリ、ドイツ、韓国、アラブ首長国連邦、フランス、インド、イスラエル、イタリア、日本、ケニア、メキシコ、ニュージーランド、ナイジェリア、オランダ、フィリピンが含まれる、シンガポールとイギリス。アメリカ政府はまた、国連およびその加盟国と協議していることも明記している。
これらの議論は、AI法、欧州連合の立法テキスト。また、生成 AI に関する規制も規定しています。議会と欧州連合理事会は、最終文書が2024年までに採択されることを望んでいる。
Chiyoye