人工知能 人類最悪にして最後の発明 単行本 – 2015/6/19
ジェイムズ・バラット (著), 水谷 淳 (翻訳)
１．内容（「BOOK」データベースより）
Google、IBMが推し進め、近年爆発的に進化している人工知能(AI)。しかし、その「進化」がもたらすのは、果たして明るい未来なのか?ビル・ゲイツやイーロン・マスクすら警鐘を鳴らす「AI」の危険性について、あらゆる角度から徹底的に取材・検証し、その問題の本質をえぐり出した金字塔的作品。
著者について
ジェイムズ・バラット(James Barrat)
フリーのテレビプロデューサー。National Geographic、Discovery、PBSなどにさまざまなテーマのドキュメンタリー番組を提供している。2000年、本書にも登場するレイ・カーツワイルやアーサー・C・クラークに取材して以来、人工知能とその危険性に注目し、取材を重ねてきた。本書が初の著作である。
2014年末、『タイム』誌が選ぶAIによる人類滅亡を論じる重要な識者5人に、スティーブン・ホーキングやイーロン・マスクとともに選ばれた。
水谷淳(みずたに・じゅん)
翻訳者。東京大学理学部卒業。博士(理学)。主な訳書にジェレミー・ウェッブ『「無」の科学』、イアン・スチュアート『数学の秘密の本棚』(ともにソフトバンククリエイティブ)、D・Q・マキナニー『論理ノート』、レナード・ムロディナウ『しらずしらず』(ともにダイヤモンド社)、マーク・ブキャナン『歴史は「べき乗則」で動く』(早川書房)、ウィリアム・H・クロッパー『物理学天才列伝』(講談社ブルーバックス)などがある。
２．2045年、AIは人類を滅ぼす――
「シンギュラリティー」到来後の恐るべき未来を暴いた
全米で話題騒然の書、ついに日本上陸!
Google、IBMが推し進め、近年爆発的に進化している人工知能(AI)。
しかし、その「進化」がもたらすのは、果たして明るい未来なのか?
ビル・ゲイツやイーロン・マスクすら警鐘を鳴らす
「AI」の危険性について、あらゆる角度から徹底的に取材・検証し、
その問題の本質をえぐり出した金字塔的作品。
３．「コンピュータが世界を乗っ取るという危険は、すでに現実のものだ」
――スティーブン・ホーキング
大変面白かったし、人工知能は人類を滅ぼすような危険があるという可能性を類推できるという意味では知的刺激を受ける本である。しかし人工知能は安全であると主張する人々に対する具体的な反論にはなっていない。著者は可能性がある、可能性があるを繰り返すだけなので、背景にいろんな知識を持っている人が読まないとなるほど人工知能は確かに危ない可能性を秘めているなという結論にならないと思う。そいう意味では科学者などではなく、ジャーナリストである著者の限界がこの辺にあると感じる。
映画「ターミネーター」は人工知能により人類が絶滅の危機にひんしている時代の物語だ。人工知能の研究が進み人類より高度な人工知能が出現し、シンギュラーポイントを超えるとターミネーターの世界があながちSFの世界の中だけで済まないかもしれないという予想だこの本を読んでいると湧いてくる。AIはすでに特定の分野では人間の知性を上回っている。そして高度に進化したAIは人間が想像しているようなものではないかもしれない。自己進化しネットやハードウェアを抜け出せるAIがどのような目的関数を持つかによってどのようなことが起こるかわからない。もし環境保全とかいう目的関数を持てば人類を抹殺することが地球環境に優しいであろうことは容易に想像がつく。そもそも特定の目的関数を最大化するようなわかりやすいふるまいを人類の知能を超えた人工知能が選択するかどうかさえわからない。マウスより知能の高い人間はマウスをかわいがりもすれば、実験のために殺しもするのであると著者は説明する。自分より高度な知能の存在と人類は地球上ではじめて共存しなければならない事態に直面するのだと。
４．それならばAIの開発にアシムフのロボット3原則のような規制をかけられるかということに関して、これに対しても著者は悲観的である。この点は私もAIの開発に規制をかけることはパソコンや電子デバイス利用そのものを規制することになるだろうと容易に想像され、ほぼ不可能だろうと思う。またならずもの国家やテロリストは開発を辞めないだろうからそれに対抗するために各国は必ずAI研究をするめざるを得ない。その研究は必ずなんならかの形で外部に流出するのでAI進化はとめようがないだろうと議論されている。そもそも人間が想像するようなAIやロボットに進化していくかどうかは全くわからないのである。
最後の方の章でイランの核施設に対して、アメリカとイスラエルがしかけたサイバー攻撃でイランの核施設破壊された事実が述べられているがこの章が一番説得力があって、衝撃を受けた。スタックネットという物理的に機械を破壊するコンピュータウィルスの存在が紹介されている。ここをひろげて本を書いた方がよかったのではないか。AIの危険性を書くにはまだ取材不足、力量不足の感が否めなく、読了後なんともいえない欲求不満が残る。知りたかったことは結局何一つ書いていなかった感がある。
５． 時代を捉えたキャッチーなタイトルの本書は、本分野の有識者のインタビューをあつめ、情報はよく整理されている。
Nick Bostromの"Superintelligence"とならんで、人工知能のリスクに関心を持つ人には、目を通す価値はある本である。
ただやはり著者はメディアの人である。それが本書の制約になっている。一般に、メディアはビッグデータや人工知能の紹介では、かならずポジティブとネガティブを併記し、どちらかというとネガティブを強調する。なぜか。理由は簡単で、その方が人々の注目を集めやすく記事や報道が「売れる」からだ。この本のタイトルの付け方も内容も、まさにこの定石に忠実に沿っている。しかし、それは正しいかというと大いに疑問が残る。
本書では、人工知能の暴走を説いているが、私自身は人工知能のシンギュラリティや人類を超える日が来るとは思わない。本書のようなシンギュラリティを主張する議論では、人工知能が、人間の持つ情報を包含し、さらに大量の情報をもつようになることを前提にしている。それは、情報の取得コストが限りなくゼロに近づくことを前提としているからだ。しかし、これは物理制約を無視した議論である。現実世界の情報取得コストはゼロにならないので、現場での人間にしかわからない情報が大きく残ることになる。従って、人間の持っている情報と人工知能の持つ情報は一部重なっているが、大部分は、人間、あるいはAIだけが持っている情報になる。このために、人工知能にお任せにするのではなく、むしろ両者が協力して初めて本書に論じられている経済効果も可能になる。従って、本書の議論は、単純に言うと物理法則に反すると考える。
全体に、ともかく人工知能の危険性をぶち上げることに寄せた本で、いかにもメディア出身の著者らしいわりきりで、売れる本に仕上げ、実際に売れている。その意味で成功した本といえる。しかし、書いてある主張には、読者を誤解に導く部分が大いにあると思うので、そこは読者は自己責任で判断して読むことが求められる本だ。