大きな力には大きな責任が伴います: Google、AI に 7 つの法律を制定

血を流し、生から死へ移ろうとしているとき、「ベンおじさん」ことベンジャミン・パーカーは、甥のピーターに懇願するような目を上げます。苦しみながら、彼はスーパーヒーロー、スパイダーマンを永遠に特徴づけることになるカルト的なセリフをささやきます。«大きな力には大きな責任が伴う»。

そしてさりげなく、この有名なポップカルチャーへの言及は多くの分野に当てはまる可能性があります。たとえばテクノロジー分野では、大企業が多くの権力を集中しています。そして、思い浮かぶ最良の例は明らかに 4 色の鬼、Google です。

マウンテンビュー社はこのことをよく認識しています。そして、スマートフォン、医薬品、囲碁で勝つための人工知能ソリューションを開発しながら、同社は自らの善意を再確認しようとしている。このため、Google は、開発者が AI を設計する際に尊重し、常に心に留めておくべき原則のリストを公開しました。

現在および将来の世代の日常生活を改善することを目的としたテクノロジーを開発したいと主張することで、ウェブ巨人はまた、これらの「私たちが取り組まなければならない重要な課題を、明確、思慮深く、肯定的な方法で強調する」。したがって、Google は常に行動するために尊重すべきルールを設定しています。」責任を持って» そして、企業が決して追求しないと約束しているアプリケーションの分野に下線を引くことも重要です。ざっくり言うと悪にならないこと。

そこで Google は尊重すべき 7 つの原則を定めましたたとえコストが何であれ。 Google は、AI には次のことが必要であると考えています。

1. 社会的に有益であること

「AI技術の開発と利用の可能性を検討する際、我々は、予想されるリスクや害よりも、全体的な利益がはるかに大きいと思われるところから進めていく」とGoogleは書いた上で、文化的、社会的、法的な基準を常に尊重することを約束している。会社が事業を展開している国。同社は、自社のテクノロジーを利用可能にする最適な時期を引き続き慎重に判断すると述べています。」商業的な側面を考慮せずに」。信じられないかもしれませんが。

2. 不当な偏見を生み出したり強化したりしないようにする

この部分には次のように書かれています。「私たちは人々に対する不当な偏見、特に肌の色、民族性、性別、国籍、収入、性的指向、障害、政治的信念や宗教などの敏感な特徴に関連する偏見を避けるよう努めます」信念」。

3. 安全性について構築およびテストされる

Google は、人工知能システムの安全性を可能な限り維持し、危害のリスクを制限するために可能な限りのあらゆることを行うことに取り組んでいます。マウンテンビュー社は技術開発を約束します。」AIセキュリティ研究のベストプラクティスに沿ったもの»。 «必要に応じて、制限された環境で AI テクノロジーをテストし、導入後の動作を監視します。» と彼女は付け加えた。

4. 人々に対して責任を持つ

Google の AI はユーザーからのフィードバックのおかげでいつでも改善できます。Google はユーザーからのフィードバックに対して、常に適切な説明を提供すると約束しています。すべてのテクノロジーは人間主導の制御の対象となります。

5. プライバシー原則を組み込む

«当社は、プライバシー原則を AI テクノロジーの開発と使用に組み込みます。» と Google に下線を引いています。知っておいてよかったGDPR のコンテキストででは、常にユーザーの同意を求めることが規定されています。 「データ使用に対する適切な透明性と管理を確保します。»。

6. 科学的卓越性の高い基準を維持する

この部分は主に、Google 研究者の知的厳格さと誠実さを強調するのに役立ちます。同社はまた、人工知能には科学研究のあらゆる分野を進歩させる可能性があることを思い出し、コラボレーションの精神を強調しています。したがって、知識の共有が必要になります。

7. 上記の原則に従って使用できるようにすること

Google の人工知能はさまざまな目的に使用できますが、この巨大企業は、潜在的に有害なアプリケーションや不正なアプリケーションをブロックする機能を保証しています。これは、製品やサービスの主な目的を分析し、それが実装される規模を検討し、Google の関与の程度を評価することによって行われます。

4つの禁断

Googleは従業員3,000人から選ばれた米陸軍と協力した Maven プロジェクトへの参加に対して。これは、多国籍企業が開発した AI によって分析および分類できるように、軍用ドローンで撮影した画像を提出することで構成されていました。抗議活動を行った従業員の中には退職した人もいる。

Googleのイメージにとっては大打撃だ。イメージを回復するために、マウンテンビュー社は、人工知能に関して同社が取り組んでいない、または今後取り組むつもりのない 4 つのアプリケーション分野をサポートしています。同社による説明は次のとおりです。

• 地球規模の危害を引き起こす、または引き起こす可能性のあるテクノロジー。危害の重大なリスクがある場合、当社は利益がリスクをはるかに上回っていると判断した場合にのみ行動し、適切な安全制約を組み込みます。
• 主な目的または実装が人に直接傷害を引き起こす、または促進することである武器またはその他の技術。
• 国際的に認められた基準に違反して監視のために情報を収集または使用するテクノロジー。
• 広く受け入れられている国際法および人権の原則に反する目的を有する技術。

Google によると、この短いリストは変更される可能性があります。後者は軍との協力を明示的に禁止していないことにも注意してください。