AIが人生を破壊する未来／2020ダボス会議スピーチ／ユヴァル・ノア・ハラリ氏
2021年12月25日
20年後、自分の国の政治に何が起こるか想像してみて下さい。
もしサンフランシスコや北京にいる誰かが、あなたの国の全ての政治家、裁判官、ジャーナリストの、医学的・個人的履歴を全部知っているとしたら？
性生活、精神的弱点、汚職取引も全部知っているとしたら。
それでも独立国でいられるのか？それともデータ植民地になるのか？
（ソース：Harano Times 2021/12/25）
皆さん、こんにちは。本日皆さんに紹介する演説は、イスラエルの歴史学者ユヴァル・ノア・ハラリが、2020年の世界経済フォーラム・ダボス会議で行った演説です。
彼はこの演説で、AI、バイオテック等の先進技術が人類を破壊する可能性について、人間、社会、国家、歴史等の角度から話をしています。
これからハイテクが、どの様にこの世界を変えていくのか。ハイテクが如何に覇権・独裁のツールになって、人類を破壊するのかについて自分（彼）の見解を言っています。
その話は正に、我々が今よく懸念している話になりますので、是非、皆さんと共有したいと思います。彼のAIに関する話は、確かに気付きを得る事が多いですが、しかし彼が演説の後半で話した、その問題を解決する為のソリューションで、とても重要な話を避けていて、認識が甘い部分もありました。
また、明らかにトランプ大統領を批判している部分もあります。勿論、トランプ大統領が絶対に正しいとは思いませんが、彼がこの動画で批判している部分は間違っていると思います。彼の認識の何処が間違っているか、何が甘いかについて、動画の途中で、又、解説をする様にします。
（本編）
私たちが直面している様々な問題の中で、人類の『種の保存』を脅かすモノが3つあります。
その3つとは、「核戦争」「生態系の崩壊」「テクノロジーによる破壊」です。
人類はこれらの問題に焦点を当てるべきです。
「核戦争」と「生態系の崩壊」は、既にお馴染みの脅威です。
ここでは、あまり知られていない「テクノロジーによる破壊」について、説明したいと思います。
ダボス会議では、テクノロジーの持つ大きな可能性について多く語られます。
これらの展望は確かにリアルなものです。
しかし、テクノロジーは、様々な形で人間社会や生命の定義を破壊する可能性があり、世界中に「不要な人間階級」を生み出し、「データ植民地主義」や「デジタル独裁政権」の台頭をもたらします。
（コメント）
私のセカンドチャンネルを見ている方なら、そのチャンネルにアップした初の動画を知っていると思います。その動画で、AIは人の仕事を奪うかについて話をしました。
その動画では、AIが生まれる事によって仕事が単純に消えるのではなく、一部の仕事が消えて、一部の仕事が生まれる。今迄世界はその様にして発展してきた事を説明した後に、時間・空間等の面で、AIが社会に与えるインパクトについても話をしました。
しかし、その話の中で、「不要な人間階級」と「デジタル独裁政権」という視点がありませんでした。その動画とこの話を併せて見ると、又、違う視点を得る事が出来ますので、コメント欄にリンクを入れておきます。（ここではこちら）
（本編）
先ず、人類は、社会的・経済的な地殻変動に直面する可能性があります。
自動化によって、何百万もの仕事が間も無く失われるでしょう。
確かに新しい仕事も生まれてきますが、それに必要な新しいスキルを、人間が直ぐに習得できるかは疑問です。
例えば、あなたが50歳のトラック運転手だとします。
そして、自動運転車両に仕事を奪われてしまったとします。一方で、ソフトウエアの設計や、エンジニアや、ヨガを与えるといった新しい仕事も存在します。
しかし、50歳のトラック運転手が、ソフトウェアエンジニアやヨガの先生としてやり直すには、どうすればいいのでしょうか？しかも、それは1回きりの事ではなく、生涯を通じて何度も「やり直し」をしなければならなくなるのです。
何故なら、自動化革命は、雇用市場が再び安定する迄の単なる通過点となる出来事ではないからです。
それどころか、かつてない程大きな破壊の連鎖の始まりなのです。
何故なら、AIは未だその可能性を十分に発揮していないからです。
古い仕事は消え、新しい仕事が出現します。しかし、その新しい仕事も急速に変化し、消えていくのです。
かつて人間は、『搾取』と闘わなければなりませんでしたが、21世紀に於いては、『不適合』との闘いが最も大きなものになるでしょう。『不適合者』になることは、搾取される事よりも遥かに悪い事です。
『不適合』との闘いに負けた人々は、『不要な人間』という新階級を構成する事になります。
『不要な人間』とは、勿論、友人や家族の視点から見た場合ではなく、経済・政治システムの視点から見た場合のものです。
そして、この『不要な人間階級』は、かつてない程力を持つエリートたちと、かつてない程大きな溝で隔てられます。
AI革命は、階級間だけでなく、国家間にも未曾有の不平等をもたらすかもしれません。
19世紀には、イギリスや日本といった少数の国が先に工業化し、世界の大部分を征服して搾取してきました。
21世紀のAIも、気を付けないと、同じ様な事になるでしょう。
私たちは既にAIの軍拡競争の真っ只中にいて、中国とアメリカがレースをリードし、殆どの国は遥か後ろに取り残されています。
AIの恩恵と力を全ての人間に分配する為の対策を取らない限り、AIが一部のハイテク拠点に莫大な富をもたらしても、他の国は破産するか、搾取される「データ植民地」になってしまうでしょう。
ここで言っているのは、ロボットが人間に反抗するSFのシナリオではありません。
世界のバランスを破壊するのに充分な、遥かに低次元のAIの話なのです。
繊維製品や自動車の生産コストが、メキシコよりもカリフォルニアの方が安くなったら、発展途上国の経済はどうなるか考えてみて下さい。
20年後、自分の国の政治に何が起こるか想像してみて下さい。
もしサンフランシスコや北京にいる誰かが、あなたの国の全ての政治家、裁判官、ジャーナリストの、医学的・個人的履歴を全部知っているとしたら、性生活、精神的弱点、汚職取引も全部知っているとしたら。
それでも独立国でいられるのか？それともデータ植民地になるのか？
充分なデータがあれば、国を支配する為に軍隊を派遣する必要はありません。
私たちが直面するもう1つの大きな危険は、全ての人を常時監視する「デジタル独裁者」の台頭です。
この危険性は、「21世紀の生命を定義する方程式」になるかもしれない、シンプルな方程式で表す事が出来ます。
B X C X D ＝ AHH
つまり、生体情報(B)と、コンピュータ処理能力(C)と、データ(D)を掛け合わせたものが、人間をハッキングする能力(AHH)に等しいという事です。
生体情報が充分にあり、コンピュータ処理能力とデータがあれば、私の身体や脳、人生をハックする事が出来、私が自分自身を理解する以上に、他人が私の事を理解する事が出来るのです。
私の性格、政治的見解、性的指向、精神的弱点、心の奥底にある恐怖や希望も知る事が出来るのです。
私が知っている以上に、あなたが私の事を知っているのです。
そして、これは私だけでなく、誰に対しても出来る事なのです。
システムは、私たち以上に私たちの事を理解していて、人間の感情や決断を予測し、操作し、最終的には人間に代わって決断を下す事が出来るのです。
過去には、多くの専制君主や政府がそれを望んできましたが、生物学の研究がその「レベル」にまで達していませんでした。
又、何百万人もの人々をハッキング出来るだけのコンピュータ処理能力と、データを持っている人もいませんでした。
ゲシュタポにもKGBにも出来なかったのです。
しかし、間も無く、少なくとも一部の企業や政府は、全ての人々を組織的にハッキング出来る様になるでしょう。
私たちは、『人間はもはや神秘的な魂ではない』という考えを受け入れるべきです。
今や『ハッキング可能な動物』。それが私たち人間なのです。
勿論、人間をハッキングする力は、より良い医療を提供する等、良い目的の為に使う事も出来ます。
しかし、もしこの力が21世紀のスターリンの手に渡れば、結果として、人類史上最悪の全体主義政権が誕生する事になります。
そして、『21世紀のスターリン』に応募している『求職者』は、既に沢山います。
20年後の北朝鮮を想像してみて下さい。
誰もが生体認証ブレスレットを身に着け、24時間体制で血圧、心拍数、脳の活動を常時監視されるのです。
ラジオで「偉大な」指導者の演説を聞いている時に、あなたが何を感じているのかが分かるのです。
拍手したり、笑顔を作っても、もし怒りの感情が検知されてしまえば、翌朝には収容所行きです。
この様な完全な監視体制の出現を許してしまうと、ダボス会議の様な場所にいる金持ちや権力者も、安全ではなくなります。
ジェフ・ベゾスに聞いてみたら分かります。
スターリンのソ連では、国家は誰よりも共産主義者のエリートを監視していました。
これからの完全監視体制も同じです。
ヒエラルキーが上がれば上がる程、監視の目は厳しくなります。
あなたは、自分の会社のCEOや社長に対する本心を知られたいですか？
ですから、この様な「デジタル独裁政権」の台頭を防ぐ事が、エリートを含む全ての人間の利益になるのです。
取り敢えず、どこかのイケメンから怪しいWhatsAppメッセージが来ても、開かない様にしましょう。
もし本当に「デジタル独裁国家」の成立を防げたとしても、人間をハッキングする技術が私たちの自由を蝕む可能性があります。
何故なら、人間がAIに頼って判断する事が増えれば、決定権は人間からアルゴリズムに移るからです。
それは既に起こっています。
既に今日、何十億もの人々が、何が流行っているかを教えてくれるFacebookのアルゴリズムを信頼しています。
Googleのアルゴリズムは、何が『真実』なのか教えてくれます。
Netflixは、何を見るべきかを教えてくれます。
AmazonやAlibabaのアルゴリズムは、私たちに何を買うべきかを教えてくれます。
遠くない将来、似た様なアルゴリズムが、どこで働くべきか、誰と結婚するべきかを教えてくれるかもしれません。
就職出来るかどうか、ローンを組めるかどうか、中央銀行が金利を上げるべきかどうかも判断してくれるかもしれません。
そして、「何故だ？」と聞く者は、融資を受けられなくなるのです。
又、「何故、銀行は金利を上げなかったの？」と尋ねた所で、答えはいつも同じです。「コンピュータがNOと言っているから」です。
そして人間の脳には、生物学的な知識も計算能力もデータも充分備わっていないので、人間はコンピュータの判断を理解することが出来ないのです。
そして自由なはずの国でも、人は自分の人生をコントロール出来なくなり、公共政策を理解する能力を失うのです。
今現在、金融システムを熟知している人がどれ程いるでしょうか？
良くて1％位でしょう。
20～30年後には、金融システムを理解できる人間の数は、完全にゼロになるでしょう。
私たち人間は、人生を自己による意思決定の積み重ねだと考えています。
しかし、殆どの意思決定がアルゴリズムによって行われる様になったら、人生はどんな意味があるのでしょうか？
私たちは、アルゴリズムが存在する状況を理解する為の、哲学的な理論すら持っていません。
普段、哲学者と政治家が分かり合えない理由は、哲学者は多くの非現実的なアイデアを語り、政治家はアイデアを実現できない理由を長々と語っているからです。
しかし、今や状況が逆なのです。私たちは哲学の破綻に直面しています。
インフォテックとバイオテックの「双子の革命」により、政治家や経営者は、天国や地獄を創造する手段を手に入れました。
しかし、哲学者たちは、新しい天国や地獄がどの様なモノであるかを概念化するのに、苦労しているのです。これは非常に危険な状況です。
「新しい天国」の概念を早期に構築出来なければ、空想的なユートピアに惑わされてしまうかもしれません。
「新しい地獄」の概念を早期に構築出来なければ、出口のない地獄に閉じ込められてしまうかもしれません。
最後に、テクノロジーは経済、政治、哲学だけでなく、生物学にも影響を与えるかもしれません。
今後数十年の内に、AIとバイオテクノロジーは、生命を再構築し、全く新しい生命体を作り出すという神憑り的な能力を人類に与えます。
自然淘汰された40億年の有機的な生命体の時代を経て、私たちは、AIによって設計された無機的な生命体が生きる新時代を迎え様としています。
AIによって設計されたものが、これからの生命の進化を司るのです。
そして、この神憑った新しい創造力を使って、人類は宇宙規模の過ちを犯すかもしれません。
政府や企業、軍隊はテクノロジーを使って、知性や自制心といった、組織が人材に求める能力を高める一方で、思いやりや芸術的感性、精神性といった他の能力をないがしろにしてしまうかもしれません。
その結果、知性や自制心は優れていても、思いやりや芸術的感性、精神的な深みに欠ける人間が生まれてくるかもしれません。
勿論、これは予言ではありません。単なる可能性です。
テクノロジーに確定的なモノは何1つありません。
20世紀には、人類は工業技術を使って、全く異なる種類の社会を構築しました。
例えば、ファシスト独裁国家、共産主義政権、自由民主主義社会。
同じことが21世紀にも起こるでしょう。
AIやバイオ技術は世界を変えるたけではなく、全く異質な社会を創り出す事が出来るのです。
私が話したい幾つかの可能性に恐怖を感じたかもしれませんが、未だ出来る事は残されています。
しかし、それを効果的なモノにするには、グローバルな協力が必要です。
私たちが直面している3つの『種の保存』に関する課題は、全てグローバルな問題であり、グローバルな解決策が必要です。
『自国が第一』等と言うリーダーがいるならば、単独では核戦争を防げないし、生態系の崩壊も止められない事を思い出させるべきです。
AIやバイオエンジニアリングを、自国だけで統制出来る国もありません。
殆どの国がこう言うでしょう。
「我々は殺人ロボットを開発したり、遺伝子組み換え人間を作ったりしたくない。」
「我々は善人だ。」「しかし、敵対国がやらないという確証はない。」「だから、我々が先にやらなければならない。」
もし、AIやバイオエンジニアリング等の分野で、この様な軍拡競争を許してしまったら、どちらが勝つかはあまり重要ではありません。敗北するのは人類です。
残念な事に、世界的な協力がこれ迄以上に必要であるのに、世界で最も強力なリーダーや一部の国が、その協力関係を意図的に壊しています。
米国大統領などは、ナショナリズムとグローバリズムの間には避けられない矛盾があり、自分たちはナショナリズムを選択し、グローバリズムを拒絶すべきだと言っています。
（コメント）
彼が持ち出した、科学技術の暴走を止める為に国際協力が必要という話には、明らかな欠点があります。それは、この世の中に「中共」の様な組織が存在する事を言わなかった事です。
彼の様な学者は、それを知らない筈はありませんので、ワザと避けたと言っても良いかもしれません。
今の時代では、どの国も外国と協力する必要があります。しかし、誰とどう協力するかは、重要なポイントです。
トランプ大統領は、確かにナショナリズムを重視するリーダーです。言う迄も無く、私はトランプ大統領の支持者です。
でも、何でもかんでもトランプ大統領が正しいとは思いません。例えば、トランプ大統領がTTPから撤退した事は、正しい判断ではないと思います。TTPは、中共を排除する新しい影響力のある貿易システムになりますので、もしアメリカが撤退すると、中共と対抗する重要なプラットフォームを手放した事になります。
勿論、アメリカでの仕事も重要ですが、中国が国際貿易で力を上げていけば、結局アメリカ人の仕事にもっと影響が出ます。
逆に、トランプ大統領がパリ協定から撤退した事はとても正しい事です。何故なら、あの協定は、アメリカと他の多くの国の利益になるモノではありません。
（そのパリ協定のカラクリに関する動画を、今、同時進行で作成していますので、出来たら又、皆さんと共有します。）
例えば、彼がWHOから脱する事を決めたのも、中共がWHOに浸透して、WHOがやるべき事をやらなかった事です。でも、この事のデメリットは、もし、WHOに代わる新しい組織が無ければ、WHOは完全に中共のモノになってしまう事です。
トランプ大統領がホワイトハウスに居たら、新しい組織が出たかもしれません。ですので、国際協力は重要、でも、完璧なルールがあっても、守らない人が居れば、ただルールがあっても無駄です。
彼はここで、トランプ政権は国際協力をしていないと批判していますが、何故、その様な事になっているのか、元々あったルールを破壊している中共は何をしてきたのか？
彼が言っているAIの領域で、アメリカと同等の力を持っている中国に、これからどう国際ルールを守らせるのかについて話をしていません。この話について触れないと、グローバル範囲での国際協力の話があっても、穴だらけのモノになってしまいます。
（本編）
しかし、これは危険な間違いです。
ナショナリズムとグローバリズムの間に矛盾はなく、ナショナリズムとは外国人を憎む事ではないからです。
ナショナリズムとは、同胞を愛する事です。
21世紀には、自国民の安全と未来を守る為に、外国人と協力しなければなりません。
よって、21世紀に於いては、優れたナショナリストはグローバリストでもなければなりません。
グローバリズムと言っても、世界政府を樹立したり、国の伝統を捨てたり、国境を開いて移民を無制限に受け入れる事ではありません。
むしろ、グローバリズムとは、世界のルールを遵守する事を意味します。
それぞれの国の独自性を否定するものではなく、国家間の関係を規制するだけのルールです。
その良いモデルが、サッカーのワールドカップです。
ワールドカップは国家間の競争であり、人々はしばしば自国チームに強い忠誠心を抱きます。しかし同時に、ワールドカップは、世界の調和を示す素晴らしい場でもあります。
フランスとクロアチアが同じルールに従わないと、フランスはクロアチアと試合が出来ません。
これこそがグローバリズムなのです。
ワールドカップが好きな人は、既にグローバリストなのです。
（コメント）
このサッカーの例は、とても良いと思います。各国の選手が自分の国を代表して、誰でもわかるルールに基いて試合をして、サッカーを楽しむ事が出来ます。
しかし、繰り返しになりますが、現実的に考えると、全員が見ているにも関わらず、自分の（国の）人を審判にして、ルールに違反してボールを持って走っても、どうにも（悪いとも）思わないだけではなく、サッカースタジアムに入ると、足の力が抜けるから特別に優遇して欲しいと図々しく言ってくるチームが存在すると、素晴らしいワールドカップも、魅力を失くしてしまいます。
（本編）
サッカーだけではなく、生態系の崩壊を防ぐ方法、危険な技術を規制する方法、世界の不平等を減らす方法にも、グローバル・ルールの合意がなされることを期待します。
例えば、どうすればAIが、アメリカのソフトウェアエンジニアだけでなく、メキシコの繊維製品労働者にも恩恵を与える事が出来るか？
勿論、これはサッカーよりも遥かに難しい事ですが、不可能ではありません。
何故なら、私たちは既に不可能な事を成し遂げてきたからです。
私たちは既に、人類が歴史上生きてきた暴力的なジャングルから脱出しました。
何千年もの間、人類は常に戦争が耐えないジャングルの法則の下で生きてきました。
ジャングルの法則とは、近くにある2つの国は、来年にはお互いに戦争を始める可能性があるというものです。
この法則の下では、『平和』とは、「戦争が一時的に起こらない事」を意味しました。
アテネとスパルタ、フランスとドイツの間が平和だった時、それは「今は戦争をしないが、来年にはするかもしれない」という意味でした。
何千年もの間、人々はこの法則から逃れることは出来ないと思い込んでいました。
しかし、ここ数十年で、人類は不可能を可能にし、法則を破ってジャングルから抜け出す事に成功しました。
ルールに基いたリベラルな世界秩序を構築し、多くの点で不完全であるものの、人類史上最も繁栄し、最も平和な時代を築いてきました。
今や、『平和』という言葉の意味そのモノが変わってきています。
平和とは、もはや、戦争が一時的にない事だけを意味するものではありません。
今や平和とは、「戦争が起こり得ない事」を意味するのです。
世界には、来年戦争をすることなど、お互い想像出来ない国が沢山あります。フランスとドイツの様に。
世界のいくつかの地域では、未だ戦争が続いています。
私は中東出身なので、その事はよく知っています。
しかし、それによって世界の全体像が見えなくなってしまってはいけません。
私たちは今、自殺者数よりも戦争で死ぬ人の数の方が少なく、砂糖よりも火薬の方が命を奪う危険性が低い世界に生きています。
ロシアの様な顕著な例外を除いて、殆どの国は、隣国を征服したり、併合したりする事を夢にも思っていません。
だからこそ、殆どの国では、GDPの2％程度を国防費に充て、遥かに多くの費用を教育や医療に掛ける事が出来るのです。ここはジャングルではありません。
しかし、残念ながら私たちは、この素晴らしい状況に慣れてしまい、それが当たり前だと思っている為、極めて無関心になっています。
脆弱な世界秩序を強化する為に最善を尽くすのではなく、各国はそれを放置し、意図的に弱体化させています。
世界の旧態依然とした状況は、皆で住んでいるのに、誰も修理しない家の様です。
後数年は持ち堪えられるかもしれませんが、このままでは崩壊し、気が付けば戦争が頻発するジャングルに逆戻りしてしまいます。
人類は、ジャングルがどんなモノだったか忘れていますが、歴史家の私を信じて下さい。
それは、あなたの望む世界ではなく、想像よりも遥かに酷いものです。
確かに人類は、そのジャングルで進化し、何千年もそこで暮らし、繁栄さえしてきました。
しかし、21世紀の強力な新技術をもってしても、今そこに戻れば、人類は恐らく絶滅してしまうでしょう。
勿論、私たち人類が絶滅しても、世界の終わりではありません。
生き残る動物はいます。
もしかしたら、ネズミが文明を引き継いで再構築するかもしれません。
その時、ネズミたちは人類の失敗から学ぶかもしれません。
しかし、私はネズミではなく、ここに集まったリーダーたちに頼ることが出来る世界を切に望みます。ありがとうございます。
【動画】
【日本語字幕】AIが人生を破壊する未来 ｜2020ダボス会議スピーチ｜ユヴァル・ノア・ハラリ