生成AIの行方を予見するにおいて、対峙する２つの思想がある。「効果的利他主義」と「効果的加速主義」だ。
歴史的には「効果的利他主義」の方が古い。2011年にオックスフォード大学のウイリアム・マッカスキルが立ち上げた運動が起源となっており、「人間が世界に対してできる善を最大化する」ことを目標とした思想である。AIの台頭に警戒しており、何よりも安全性ファーストで進めるべきだという考えを持った思想である。
それに対し「効果的加速主義」は生まれたのは新しく、2022年頃、ネット上で生じたと言われている。シリコンバレーの多くの起業家が持っているのがこの思想である。AIの安全性は二の次で、技術革新ファーストで推し進めるべきだという考えである。
2023年11月、オープンAIのサム・アルトマンCEOが、突然、会社を解任され、彼を支援する多くの社員もぞっそり退職する方向となり、その後一転して、会社に復帰されたという出来事が話題になった。このひと悶着は、社内で理事会とサム・アルトマンとの対立が発端であったわけだが、この対立の背景には、まさしく「効果的利他主義」と「効果的加速主義」の対立構図が隠れている。
オープンAIは2015年に、アルトマンとイーロン・マスクが共同で設立した会社である。AIの覇権もGAFAに持っていかれることに懸念して設立されたベンチャーである。その年はちょうど、Googleがディープマインドを買収した年でもある。オープンAIの内部は、まさしく「効果的利他主義」と「効果的加速主義」が対立する戦場であった。
オープンAIの「効果的加速主義」の方向性に懸念をもった、ダリオ・アモデイがスピンアウトして、アンソロピックという別のAIの会社を設立している。オープンAIはChatGPTをリリースして一躍有名になったが、アンソロピックは現時点ではぼぼ無名に等しい。現時点では、「効果的利他主義」よりも「効果的加速主義」の方が圧倒的に優勢であることは否めない。生成AIは人類にとって、核と同じ位のリスクがあると言われている。今後のAIの進歩がどのような方向にいくかは、この２つの思想の行方に掛かっているといっても過言ではないだろう。