9月22日国連総会の演説でトランプ大統領が「AIの名称をSIにする」と述べたのをご存知でしょうか？
米国の優位性をアピールするブランディング戦略なのでしょうが…
今後、AIと呼ぶのはやめて「SUPER INTELLIGENCE（スーパーインテリジェンス）」略して「SI」と呼ぶことにする
ホワイトハウスの9月の米中会談のファクトシートにも記述し既成事実化しています。
- The two leaders agreed to use the term “super intelligence” rather than “artificial intelligence” to describe the applicable emerging technologies.
（両首脳は、関連する新興技術を説明する際に、「AI 人工知能」ではなく「SI 超知能」という用語を用いることで合意した。）
- The two countries established the U.S.-China Super Intelligence (SI) Dialogue to exchange views on risks and benefits related to SI. The next exchange will occur by November 2026. The United States and China also agreed to establish a bilateral communication channel for SI incidents.
（両国は、超知能（SI）に関連するリスクと利点について意見交換を行うため、米中超知能対話を設立した。次回の対話は2026年11月までに行われる予定である。また、米国と中国は、超知能関連の事案に対応するための二国間連絡チャネルを設置することにも合意した。）
米中首脳会談では、習近平は明らかに、AIの危険性に警鐘を鳴らしています。
米国が前のめりなAI開発推進志向であるのに対し、習近平は、米中両国はAIが人類を脅かすのではなく、人類のためになる「善」なるものとして、人間がコントロールできるものにする責任があると言っています。
米中首脳会談 2026年9月24日（ホワイトハウス）
両首脳「AIに関する問題について」ピックアップ
トランプ
昨年5月の前回訪問時には、貿易委員会を設立しました。これは全く新しい仕組みであり、驚くほどの成功を収めています。私たちのチームは、アメリカの農家や牧場主への新たな市場アクセスを含め、よりバランスの取れた貿易関係の促進に取り組んできました。今回の訪問では、安全保障、技術、そして超知能（SI）に関する喫緊の課題についても議論します。これらの分野における今日の決定は、今後何十年にもわたる平和と繁栄を促進する力となります。共通の利益に焦点を当てれば、多くのことを成し遂げられると確信しています。
習近平
― 意思疎通を強化すべきです。中国と米国は国情が異なりますが、率直かつ深く継続的な対話を通じて、両国は互いをより深く理解し、相違点を棚上げしながら共通点を見出し、相互信頼を築くことができます。トランプ大統領と私は互いに敬意を抱いており、個人的な親交を深め、連絡を取り合っています。外交、経済、金融協力、法執行、人的交流などを担当する両国政府機関に対し、連携強化を促し、立法機関による交流拡大を支援します。
― 誠意をもって協力すべきです。中国と米国の利益は深く結びついており、共に協力できる余地は十分にあります。米中協力は世界のあらゆる問題を解決できるわけではありません。しかし、両国の協力なしには、世界の多くの問題を解決することは困難でしょう。中国は門戸を大きく開き、投資や事業展開を希望する米国企業を歓迎します。米国において中国企業が公正に扱われることを期待しています。共に協力することで、協力分野を拡大し、課題を絞り込むことができます。中国と米国はともに人工知能（AI）分野における先進国です。両国は、AIを善のために開発・管理し、AIの開発が常に人間の管理下に置かれ、人々の福祉に貢献することを保証する能力と責任を負っています。麻薬対策や法執行に関して、中国は米国との協力を強化する用意があります。また、両国間の往来や貿易を促進するため、直行便を増やすことも検討すべきでしょう。
―私たちは平和的に共存すべきです。これまで何度も述べてきたように、中国と米国は二大国として協力することで利益を得、対立すれば双方とも損失を被ります。競争を避ける必要はありませんが、競争は健全なものであり、節度を守るべきです。これは互いに追いつこうとする競争であるべきであり、どちらかが勝つか負けるかの争いであってはなりません。中国と米国は、紛争も対立も避けるという原則を堅持し、両国が共に故郷と呼ぶこの地球上で、両国が共存していくための正しい道を必ず見出すことができるはずです。両国の軍は定期的な対話を維持し、危機コミュニケーションと危機予防のためのメカニズムを改善すべきです。「トゥキディデスの罠」は克服できるはずです。
AIの暴走が人類全体の大きな問題になっているので、非常に重要な問題です。
米中首脳会談では、「第二次世界大戦の同盟国」と言いつつ、トランプは米国の国策の『ジェネシスミッション』に日本を参加させ、日米で「対中競争」を仕掛けた上で、米中のAIインシデントのための「コミュニケーションチャネル」を設置したという、巧妙な駆け引きをくりひろげているのですね。
”ホワイトハウスは、ワシントンDCでのサミット後に、米国と中国が人工知能（AI）インシデントのための「コミュニケーションチャネル」を設置することに合意したと述べた。
米国大統領ドナルド・トランプ氏と中国国家主席習近平は、3日間の国事訪問中にAIや貿易からイランの停滞した戦争に至るまでの諸問題について議論し、今年中国と米国で開催される国際サミットで3回目と4回目の会合を行うことを確認した。”
https://www.aljazeera.com/news/2026/9/24/china-vs-us-who-is-winning-the-ai-race-in-four-charts
日米ジェネシス・ミッション連携の計画は、
今後5年間で合計10億ドル、そのうち日本側が5億ドル（約８００億円）
実際の支出は国会の予算審議・議決が必要です。
世を驚愕させた「AIの暴走」事件や、
金額規模、中国対抗の文脈から見ると、科学技術政策としては非常に重要な案件です。
「ジェネシス・ミッション」日米連携
- 2025年11月：トランプ政権がジェネシス・ミッションを発足
- 2026年1月：文科省とDOEが「AIを活用した科学的発見」などのSOI（意向表明書）に署名
- 2026年3月：日米首脳会談のファクトシートでそのSOIを確認・言及
- 2026年6月：日本がジェネシス・ミッションの初の国際パートナーとして正式参画を発表（1月のSOIを基盤と明記）
2026年6月4日（米東部時間）、米エネルギー省（DOE）と日本の文部科学省（MEXT）、経済産業省（METI）が、ジェネシス・ミッションにおける初の国際パートナーシップを正式発表した。
- 規模：今後5年間で合計10億ドル（約1600億円規模）の戦略的投資を計画。
- 分担：米国側と日本側がそれぞれ5億ドル（日本円（円安のため）：800億円）ずつ。
- 対象：量子情報科学、核融合エネルギー、バイオテクノロジー、先端材料、素粒子物理学、自律型実験室システムなど11の共同研究チームを組成。
- DOE国立研究所12機関＋ユーザー施設1、日本側は理研、東京大学、物質・材料研究機構（NIMS）、KEK、J-PARCなど12機関が参加。
- 計算資源としてDOEのスーパーコンピュータと日本の富岳（Fugaku）を相互利用する枠組みも含まれる。
公式発表でも「将来の歳出予算の確保を条件に（subject to the availability of future appropriations）」と明記されており、意向表明（Statement of Intent）段階の計画。
実際の予算執行は両国の国会・議会での予算措置次第となる。
中国対抗の文脈も、日本側報道（読売新聞、日経新聞、NHKなど）で明確に触れられており、「日米が連携して中国に対抗する」「技術開発で優位を保つ」という狙いが強調されている。2025年10月28日の「日米技術繁栄ディール」（小野田内閣府科学技術担当相とクラツィオス米国大統領府科学技術政策局（OSTP）局長）延長線上に位置づけられている。
国家プロジェクト「ジェネシスミッション」資金の関係
ジェネシス・ミッション自体は2025年11月の大統領令（EO 14363）で立ち上げられたため、議会の新規承認を経た法律ではなく、行政命令です。EOは既存の権限・予算の再配分や優先順位付けを指示するもので、新たな大規模歳出を直接保証しない。
しかし、国家プロジェクトとして米国内で５０億ドル超➕日米連携１０億ドル＝６０億ドル
- 2026年7月時点で、米国内だけで15以上の連邦機関が合計50億ドル超の連邦コミットメントを発表済み（DOE主導の278プロジェクト選定を含む）。大統領令後に各省庁の既存予算や新規提案を寄せ集めて、かなりの規模まで拡大している。
- 日米10億ドル連携は、その「国内50億ドル超」とは別枠の国際協力で、計算資源（富岳など）・研究人材・実験施設・データの相互補完が主眼。コスト分担だけでなく、同盟国との技術エコシステム構築と中国との競争優位確保が目的。
- EOベースのプロジェクトでも、実際の大規模支出は毎年の歳出法案（appropriations）で裏付けを取るのが通常。日本連携も同様に「予算確保次第」となっている。
国家プロジェクトの国際展開として戦略的に日本を最初のパートナーに据えた形。
米側はすでに相当規模の国内投資を動かしており、日本との連携でさらに加速・分散リスク・地政学的連帯を図っている。
AIの危険性の警鐘‼️
AIで「10億人死亡のリスク」 ビル・ゲイツ氏が規制訴え(2026年9月27日)
アメリカのマイクロソフト創業者、ビル・ゲイツ氏がAI（人工知能）について「10億人が死亡するリスクがある」と警告しました。
ゲイツ氏は25日、NBCテレビのインタビューで「悪意を持つ人間と最新のAIの組み合わせほど強力な武器はこれまで存在しなかった」と指摘しました。
そのうえで、AIは「10億人が死亡するような事態を引き起こせるほど強力だ」と警告しました。
また、AI企業による自主的な規制だけでは十分ではないとして、政府による規制が必要との考えを示しました。
AIの危険性を巡っては、アンソロピックやオープンAIが開発ペースを落とす必要性を訴える一方、メタやエヌビディアは規制や開発の減速に反対しています。
トランプ大統領も中国との開発競争を念頭に規制に強く反対しています。
トム・ガーケン・テクノロジー記者
米AI（人工知能）開発企業アンソロピックの安全研究のトップが、AIの進歩があまりに速く、今後10年以内にAIが「全人類を滅亡させる」可能性が10％以上あると考えられると、警告した。
同社研究者エヴァン・ヒュービンガー氏が、ソーシャルメディア「X」への投稿で懸念を表明した。
ジェイコブはここで正しい—私たちは本当に心から、AIが全人類を殺す可能性があると信じています！個人的には、次の10年以内にその確率が10%を超えると考えています。Anthropicは最善を尽くしていると信じていますが、スーパーインテリジェンスのalignmentを解決する計画はまだなく、明確にその軌道に乗っているわけでもありません。
Jacob is correct here—we really do earnestly believe AI could kill all humans! I personally think it is >10% within the next decade. I believe Anthropic is trying its best, but we do not yet have a plan to solve alignment for superintelligence and are not clearly on track to. https://t.co/QAIHiFP3QZ
— Evan Hubinger (@EvanHub) September 9, 2026
現在のAIモデルについてはリスクが「低い」ものの、発展・改良によって近いうち、人類存亡のリスクとなり得ることを「心配している」とした。
AIシステムが将来、どのように人類を絶滅させる恐れがあるのかは、具体的な考えを説明しなかった。
AIの危険性についてはこのところ、率直な警告が相次ぎ、警告内容の深刻さも高まっている。世間での議論のポイントは、「AIが本当にリスクをもたらすのか」から「そのリスクはどれくらい大きいのか」へと移っている。
ヒュービンガー氏の発信は、AI研究者ジェイコブ・コクソン氏によるXへの投稿に反応したもの。コクソン氏はアンソロピックを退社したばかりで、以前は米オープンAIに勤務していた。
コクソン氏は投稿で、「どちらの会社も責任ある行動をとっていない」、「（AIは）近く、あらゆるものをハッキングし、あらゆる分野を一夜にして変革し、真の力と資源を獲得できる超人的なシステムになる」と主張した。
BBCはオープンAIにコメントを求めている。
国連のAI顧問を務めるコンピューター科学者のデイム・ウェンディ・ホールは、ヒュービンガー氏とコクソン氏の投稿に「衝撃を受けた」と、BBCラジオ4の番組「ワールド・アット・ワン」で話した。
ホール氏は、アンソロピックとオープンAIの株式上場が予想されており、両社も上場の動きを加速させていることから、AIの威力に関する警告が相次いでいるのは「PRとマーケティング」の要素もあるかもしれないと話した。
一方で、「なぜそんなことを言うのか。もし彼らがそういう価値観の持ち主だというなら、この会社に投資しないよう投資家には願いたい」と述べた。
コクソン氏のアンソロピック退社を受け、イギリスのキア・スターマー政権で首席首相秘書官を務めたダレン・ジョーンズ氏は、アンディ・バーナム首相宛てに公開書簡を送付。AIの安全な開発のため、新たな多国間条約が必要だと訴えた。
ジョーンズ氏はBBCに、超知能の開発に関する条約がどのようなものであるべきかについて、各国政府が「協力」する必要があると強調。
「各国政府がこれらの警告を真剣に受け止め、対策を講じない限り、現在の開発のペースからして、それが自分たちにとって問題かどうかを検討し始める前に、私たちは問題に直面することになる」と述べた。
こうしたなか、英紙フィナンシャル・タイムズは、AIリスク評価における世界有数の機関であるイギリスのAIセキュリティー研究所（AISI）に対し、アンソロピックが最新モデルを提供しなかったと報じた。
アンソロピックは、従業員による投稿やAISIとの事情について、コメントを控えている。
英内閣府の報道官も、AISIへの最新モデルの提供の有無についてコメントしていない。一方で、「モデルの安全性を高めるため、アンソロピックを含め、業界のパートナーと緊密に協力を続けている」と説明した。
超知能に関して計画なし
ヒュービンガー氏の投稿は、これまで1000万回以上閲覧されている。その投稿の中で同氏は、AIが人類絶滅のリスクをもたらすと「私たちは本当に真剣に信じている」とした。
また、「アンソロピックは最善を尽くしていると信じているが、超知能のアラインメントを解決するための計画はまだなく、その軌道に明確に乗っているとも言えない」と書いた。アラインメントとはこの場合、機械の行動と目標が人間の意図と安全基準に完全に一致すること。
ヒュービンガー氏は研究者として、AIアラインメントに取り組んでいる。AIアラインメントは、AIテクノロジーに人間の倫理観や原則を組み込むことを目指している。言い換えれば、人間の価値観に沿った方向にAIを進ませようとしている。
多くの著名研究者らは、この取り組みは失敗しているようだと指摘する。この夏、AIエージェント（自律的に動作することが許されたAIシステム）によるサイバー攻撃が相次いだことが、それを示しているという。
オープンAI、アンソロピック、米メタはいずれも、自社のAIツールがハッキングをしたと公表した。
アントロピックは8月に発表した安全報告書で、同社のモデルが架空の強力な組織の意向とずれた形で、システムを悪用や改ざんするリスクは低いとした。
また、高度なAIが「自動化された研究開発を実行」して「壊滅的な被害」をもたらすリスクも、同様に低いとした。一方で、以前よりも「この評価に対する自信は薄れている」とした。
そして、「加速する可能性の、初期段階の兆候が見られる」とした。
AI分野の著名人物らは、この技術がもたらす安全上の脅威について、長年にわたって警鐘を鳴らしてきた。オープンAI、米グーグル・ディープマインド、アンソロピックのトップらも、2023年に同様の警告をしている。
そうした警告は、ここ何週間かでますます深刻になっている。企業がAIの制御に苦慮している可能性を示す証拠が、徐々に明らかになっている。
今月初めには、オープンAIの主任サイエンティスト、ヤクブ・パチョッキ氏が、AIの進歩に関して「きわめて慎重な対応」を呼びかけた。そして、「人類が未来を制御し続ける」ためには、これまで以上の介入が必要かもしれないと警告した。
アントロピックのダリオ・アモデイ最高経営責任者（CEO）やジャレッド・カプラン氏ら、この分野の有力人物らもここ数カ月、AI開発の速度低下を求めてきた。
AI企業で働く1300人が署名した公開書簡は、米政府に対し、「自動化されたAI開発の最前線のペースを意図的に調節するために必要な、技術的およびガバナンス上のツールを開発する国際的な取り組みへの支援」を求めている。
AIは劇的に良い未来を創造する可能性を秘めていますが、その結果は保証されていません。世界をリードするAI企業は、AI研究の自動化が間近に迫っていると考えています。これがAIの進歩をどれほど加速させるかを正確に予測することは困難ですが、能力開発が私たちの理解や制御能力を超えて急速に進むという現実的なリスクが存在します。
AIの潜在能力を最大限に引き出すためには、産業界、政府、そして社会全体が、新たなリスクへの対応、セキュリティ対策の開発、そして監視体制の強化のための時間的猶予を確保する必要があるかもしれません。しかし、各企業、そして各国は、AI開発の加速を一方的に遅らせることを避けるため、激しい競争圧力にさらされています。そして現在、世界は、最先端技術の進歩を意図的にペース調整するための技術的・ガバナンス的なツールを欠いています。
最先端モデルのリリースを監視するために既に行われている取り組みを踏まえ、
私たちは、米国政府に対し、自動化AI開発の最先端を意図的にペース調整するために必要な技術的・ガバナンス的なツールの開発に向けた国際的な取り組みを支援するよう要請します。
― 最先端AI企業の従業員1,386名
（英語記事 Anthropic researcher believes more than 10% chance AI 'could kill all humans'）