「人類への危険」: サム・アルトマンが OpenAI から解雇された理由がわかったような気がする

公式には、まだ曖昧さが残っているサム・アルトマン氏自身が共同設立した会社から解雇これにより、OpenAI は 1 週間にわたり混乱に陥りました。今、彼は会社のトップに戻る, しかし、取締役会がなぜ彼を解雇することを決定したのかはまだわかりません。

報道機関ロイター 何が取締役会をそのような決定に追い込んだのかを判断できたと彼は信じている。 OpenAI の進歩は、少なからず内部的な不安の原因となっています。

AGIに近づいていきますが、AGIとは何でしょうか？

代理店ロイターOpenAI 研究者数人が書いた手紙が取締役会に送られ、進捗状況について警告されたと報告しています。後者は「人類に対する危険」。同庁は、この件に関して裏付けとなる2人の情報筋にインタビューすることはできたが、問題の書簡を読むことはできず、著者やOpenAIから公式コメントも得られなかった。

これら 2 つの情報源によると、サム アルトマン氏の解任につながったのは、この書簡と OpenAI の進歩でした。より正確に言えば、それは質問ですQ*プロジェクトの、OpenAI をさらに近づける AI 分野の驚異的な進歩AGIの、汎用人工知能。これは、経済的な付加価値を伴うほとんどのタスクにおいて AI が人間を上回ることができる段階です。

Q* プロジェクトは、数学的問題を解決する生成 AI の可能性で構成されています。この段階では、彼女は小学生レベルの問題を解決できるでしょうが、説明したようにロイター、それはすでに非常に印象的です。実際、AI が複数のオプションを提供できる単純なテキスト生成とは異なり、数学の問題を解決するには、非常に正確で独自の解決策が必要です。確率で答えを導き出すことは不可能です。

このプロジェクトにより、OpenAI は AI により優れた推論能力を提供することに成功します。私たちが話しているのは、独立してより多くのことを学習して理解できる AI についてです。

大きな一歩も前進からかわれたサム・アルトマン氏が経済サミット中に公に発表した。

過去 2 週間にわたり、私たちは無知のベールを押しのけ、発見の最前線を前進させるこの部屋にいる機会がありました。これは職業上の名誉であり、人生の中でも最高の栄誉です。

取締役会が同氏の解任決定を発表したのは、この宣言の翌日だった。本日、Sam Altman 氏が新しい取締役会とともに OpenAI の指揮に戻りました。その間、Emmett Shear は数日間 OpenAI のボスを務めました。 Twitchの元ボスAIは宇宙を破壊できる爆弾だと信じていた。

効果的な利他主義の問題

上で示したように、ロイター問題の書簡を参照することはできず、現段階で「何が起こっているのかを測定することは困難である」人類に対する危険」。特にマスコミは、OpenAI が政治的および哲学的な対立の中心にあると報じているためです。実際、元取締役会のメンバーの何人かは「」の一員です。効果的な利他主義」。これはシリコンバレーで非常に人気のある思想の動きで、特に AI の進歩を潜在的な危険とみなしており、したがって可能な限り速度を落とさなければなりません。

動き信じられないほど欠乏している» サム・アルトマン氏によると、ウォール・ストリート・ジャーナル、OpenAIのボスはこの理論にまったく同意しません。数人のハイテク億万長者が資金提供した運動で、特にサム・バンクマン・フリード、FTXの元CEOは詐欺とマネーロンダリングで有罪判決を受けたが、SkypeとFacebookの元メンバーでもあった。この哲学に近い人々の中には、次のようなものもあります。イーロン・マスク。

この運動には、生成 AI ブームの形成に貢献した人々も含まれており、閉鎖的で多面的ですが、たとえそれが単に大金を稼いで、それを受益者に寄付することを意味するとしても、世界に良いことをするという信念を共有しています。。

文脈を考えると、サム・アルトマンの危険性について警鐘を鳴らしたい科学者たちがこの運動に参加していたと想像できます。