危険なAIを無効化する緊急ボタン：合意をもたらす保護策

テクノロジー企業が自社のサービス全体に生成 AI ツールを実装するために全力を尽くしている現在、規制の時期が来ています。人工知能。政府と民間企業は合意を見つけて協力して前進しようとしています。これは、両国が揃った今週ソウルで起こったことだ。

AI にとって最も極端なシナリオは、AI がその作成者とユーザーに敵対する場合です。災害のシナリオですが、安心感が必要です。これは、ソウルでの人工知能サミットが決定することを熱望していたことです。英国政府が発表した。この新しい協定では、署名企業はいくつかの点を約束しています。

• 脅威の検出と社会的リスクに対する保護措置。
• 特に脆弱性のリスクを軽減するためのサイバーセキュリティへの投資。
• コンテンツが AI によって生成されたかどうかをユーザーが知る機能。
• モデルの機能、その制限、および適切な使用分野についての説明。

言及された対策の中には、「キルスイッチこれは、あらゆる AI の活動を簡単かつ迅速に無効化できる一種のプロセスです。 AI を無効にするための何らかの緊急ボタンを設置することの重要性は、影響を受ける企業がOpenAI彼ら自身も、自分たちのツールがどこまで機能するかわからないことを認めています。

たとえば、次のようなことは予想していませんでしたLLM翻訳することができます。 OpenAI の CEO であるサム アルトマン氏自身も、人間の知能を超える AI である汎用人工知能 (AGI) が間もなく存在する可能性があることを認めています。英国と韓国政府が主催してソウルで開催されたこのサミットには、少なくとも 16 社の企業が集まりました。

• アマゾン
• 人間的
• コヒア
• グーグル
• G42
• IBM
• 語形変化AI
• メタ
• マイクロソフト
• ミストラルAI
• ネイバー
• OpenAI
• サムスン電子
• 技術革新研究所
• xAI
• Zhipu.ai

合意の後には法律が必要だ

次回の AI サミットは 2025 年初めにフランスのパリで開催される予定です。参加者はすでに、AI におけるリスクの定義を策定することを発表しています。この 2 つのピークの問題は、昨年10月のブレッチリーの事件そして今週のソウルの特徴は、行われた約束は強制的ではないということだ。実際、それらは法律で定められておらず、これは現在、世界中のすべての政府にとって次の立法上の課題となっています。

さらに進むには
しかし、なぜ生成 AI がヨーロッパに普及するのが遅いのでしょうか?

しかし、ジョー・バイデン米国大統領は昨年10月、AIセキュリティに関する規制を導入した。中国には著作権と個人データの収集に関する公式政策があります。欧州連合に関しては、議会がAI法に合意、AIに関する世界的な法律であり、間もなく批准される予定です。これは企業に圧力をかけるのに十分であり、これらのサミットの発表効果を超えています。