E・マスク氏ら、AI開発の一時停止を訴える
E・マスク氏ら、AI開発の一時停止を訴える■なぜ、AI開発の一時停止を求めるのか 非営利団体Future of Life Instituteが、「Pause Giant AI Experiments」（大規模AI実験を一時停止せよ）というAIシステムの訓練を少なくとも6カ月間、直ちに一時停止することを全てのAI研究所に求める書簡を公開した。ヨシュア・ベンジオ氏やスチュワート・ラッセル氏など著名なAI研究者、イーロン・マスク氏やスティーブ・ウォズニアック氏などテクノロジー産業のリーダーが署名、またたく間に賛同者が1,000人を超えた。 AIシステムの実験や開発を少なくとも6ヶ月間停止を求めるというのは、どういうことか。この書簡の主旨は「AIシステムが人間社会における深刻なリスク」となるからであるとしている。 これはAI研究の世界的権威であるレイ・カーツワイル氏によって提唱されたシンギュラリティが実現すると予想されるからであろうか。 つまり、AIが人間の知能を越え、人間社会を支配する可能性が高まっているという意味ではないだろうか。■シンギュラリティとは？ 人工知能が人類の脳を超えるとき、すなわちシンギュラリティが実現する時代がやってくるのはそう遠くないようである。 日本では野村総合研究所がイギリスの工学博士M.オズボーン他との共同研究の中で「10～20年後、国内の労働人口の約49%が人工知能やロボットで代替可能になる」という報告結果を発表した。 これにより、雇用が一気に消失するのではないかとの危機感が生まれ、シンギュラリティに注目が集まったのである。 コンピューターや人工知能の進化は想定を超えており、神経の動きをシミュレーションしたニューロコンピューターでの脳内神経細胞再現化などはすでに現実のものとなっている。 コンピューター内のニューロン数が人類の脳の数を超える、すなわち「機械が人類の脳を超える」状態になるのは時間の問題といわれているのだ。 シンギュラリティ（Singularity）とは、日本語で「技術的特異点」の意味で使われている言葉。AI（人工知能）が人間の能力を超える転換点や、それによりもたらされる世界の大きな変化といった概念を指している。 シンギュラリティはもともと数学や物理学の専門用語で、「特異点」という意味がある。 アメリカの発明家であり、AI研究の世界的権威であるレイ・カーツワイル氏により、シンギュラリティという言葉がテクノロジー分野でも用いられるようになった。 レイ・カーツワイル氏は、AIの計算能力が加速度的に進化していることを指摘し、いずれAIは人間の知能を超える地点に到達するという予測を提示した。 現在のところシンギュラリティの到達は2045年と考えられている。ーーーーーー（引用）ーーーーーーE・マスク氏ら、AI開発の一時停止を訴える書簡を公開Sareena Dayaram（CNET News）翻訳校正：編集部2023年03月30日 08時55分 Elon Musk氏は、米国時間3月28日に発表された公開書簡で、多数のハイテク業界幹部や、人工知能（AI）、コンピューターサイエンスなどの分野の専門家らとともに、「GPT-4」よりも先進的なAIシステムの開発を一時的に休止することを主要なAI研究施設に訴えた。人間社会に対する「深刻なリスク」をその理由として挙げている。提供：SOPA Images/Getty Images 非営利団体の生命の未来研究所（Future of Life Institute）によって発表されたその公開書簡には、Musk氏のほか、Apple共同創設者のSteve Wozniak氏、Stability AIの最高経営責任者（CEO）Emad Mostaque氏、「サピエンス全史：文明の構造と人類の幸福」の著者Yuval Noah Harari氏など、1000人以上が署名している。書簡は、システムのトレーニングを直ちに少なくとも6カ月間停止することを求めており、一時停止は公開され、検証可能で、すべての主要なプレイヤーが参加すべきだとしている。 「人間に匹敵するインテリジェンスを備えたAIシステムが、社会と人類に深刻なリスクをもたらす可能性があることは、広範な調査によって示されており、トップレベルのAI研究施設によって認識されている」と、書簡には記されている。また、「機械に私たちの情報チャンネルをプロパガンダと虚偽で埋め尽くさせるのか。充実したものを含めてすべての仕事を自動化するべきなのか。（中略）文明の制御を失うリスクを負うべきなのか」を私たちは自問すべきだとしている。 OpenAIがGPT-4を公開したのは、今回の公開書簡の数週間前のことだ。GPT-4は、驚異的な人気を集めるチャットボット「ChatGPT」のプレミアム版「ChatGPT Plus」を支える大規模言語モデル（LLM）である。OpenAIによると、この新しいGPT-4は、これまでのバージョンよりも複雑なタスクを処理して、より繊細な結果を生成でき、誤った回答を生成する可能性が低いという。 OpenAI独自の調査によって、このようなAIスキルにはリスクが伴うことが示されている。例えば、ジェネレーティブ（生成系）AIシステムは、信頼性の低い情報源を引用する可能性があるほか、「有害な行動や意図しない行動を取ることによって安全性の課題を増やし、悪意ある者が他人をだましたり、誤解を与えたり、嫌がらせをしたりといった行為を仕掛ける能力を高める」可能性があると、OpenAIは指摘している。 AI専門家らは、適切な保護策がないばかりか、その意味合いを理解することもなく、企業各社がこぞって製品を提供している状況に困惑し、これが大局的にどこに向かうのか危機感を募らせている。 「先進的なAIは、地球上の生命の歴史を大きく変える可能性があり、それに見合う配慮とリソースを注いで計画・管理する必要がある」と、書簡には記されている。「残念ながら、そのレベルの計画や管理は行われていない。この数カ月間でAI研究施設は、さらに強力なデジタル知性を開発して展開することを目指した制御不能な競争にがんじがらめになっているが、開発者を含めて誰もそれを理解、予測したり、確実に制御したりできない」この記事は海外Red Ventures発の記事を朝日インタラクティブが日本向けに編集したものです。https://japan.cnet.com/article/35201912/ーーーーーー■chatGPTは、どう発展してゆくのか？ 現在公開されているチャットGPTは、質問するとそれに答えてくれるAIとして注目されている。この機能は「プログラムの開発」「論文の作成」「宿題の作文の作成」など、さまざまなことに応用され、いろいろなことに可能性があるとされている。だが、まだ未完成で、問題も多くあるようだ。 今日のAIシステムは一般的なタスクにおいて人間並みの競争力を持ちつつあり、機械が生み出すプロパガンダや真実でないものが人間社会にあふれるリスクもある。 この書簡では「現れる能力を予測できないブラックボックス・モデルをますます大きくする危険な競争から一歩後退して安全を確保する。AIの研究開発は、より正確、安全、解釈可能、透明、堅牢、整然としていて信頼できる忠実なシステムの実現にフォーカスし直すべきである。」としている。 イーロン・マスク氏やアップルコンピュータの共同創業者のウォズニアック氏などの著名人ほか約1,000人もの専門家達が危機感を募らせていることは明らかである。 シンギュラリティの到達は2045年を待たず、もっと早まることだってあり得るのだ。われわれの社会が否定的に転換する可能性も秘めたAIの開発競争は、何らかの基準と歯止めを必要としているということなのであろう。 イタリアの個人データ保護当局は、米スタートアップ企業OpenAIが開発し、マイクロソフトが支援する「ChatGPT」について「直ちに」ブロックし、欧州連合（EU）の「一般データ保護規則」（GDPR）を順守しているか調査すると明らかにした。 イタリアでは、一時的にchatGPTの使用を停止させたようである。これは、個人データの保護に関するもののようだが、さまざまな杞憂が存在するのであろう。＊＊＊
