人間の頭脳を超えたAI登場で何が起こるか…歴史学者ハラリがAIの進化に警鐘を鳴らす理由 | リーダーシップ・教養・資格・スキル | 東洋経済オンライン
「人間の頭脳を超えたAI登場で何が起こるか…歴史学者ハラリがAIの進化に警鐘を鳴らす理由」がちょっと面白い。
「「銃を手にしたロボットたちが市街を暴れ回るといった、ハリウッド映画の場面は忘れたほうがいい。現実には、AIはそれよりもはるかに危険だ」
歴史家で著述家のユヴァル・ノア・ハラリが、『NEXUS 情報の人類史』（柴田裕之訳）でそう警告する。」
「自分の手に余る力を呼び出す傾向は、個人の心理ではなく、私たちの種に特有の、大勢で協力する方法に由来する。人類は大規模な協力のネットワークを構築することで途方もない力を獲得するものの、その構築のされ方のせいで私たちは力を無分別に使いやすくなってしまっている。私たちのネットワークの大半は、魔法をかけられた箒から金融制度まで、さまざまな事柄についての虚構や空想や集団妄想を広めることによって築かれ、維持されてきたからだ。」
「AIが人類にとって前代未聞の脅威であるのは、AIは自ら決定を下したり新しい考えを生み出したりすることのできる史上初のテクノロジーだからだ。従来の人間の発明はすべて、人間に力を与えた。なぜなら、新しいツールがどれほど強力でも、その用途の決定権はつねに私たちの手中にとどまっていたからだ。核爆弾は誰を殺害するかを自分で決めないし、自らを改良したり、いっそう強力な爆弾を発明したりすることもできない。」
「今日でも、金融制度を本当に理解している人はごくわずかだ。世界でも屈指の重要な金融センターの統制を任されているイギリス議会議員たちを対象にした2014年のある調査では、銀行が貸付を行なったときには新たにお金が生み出されていることを正確に理解している人は12パーセントしかいなかった。これは、現代の金融制度の最も基本的な原理の一つなのだが。2007〜08年の金融危機が示しているように、一部の複雑な金融ツールや原理は、ほんの一握りの金儲けの天才にしか理解できなかった。AIがいっそう複雑な金融ツールを創出し、金融制度を理解している人間の数がゼロにまで落ちたときには、民主主義はどうなるのか？」
ユヴァル・ノア・ハラリ
小松 仁