人工知能（AI）が人間を抹殺する命題とは？AIと意識生物の…【前半】
■AIは生物になりうるのか？
――AIがAIを作り始めたら、生物の定義に当てはまったりはしないのですか？
山下氏
山下 「シンギュラリティ（技術的特異点）」の話ですね。確かに、生物の定義には自己増殖能力やエネルギー変換能力の有無とかいくつかの考えがあって、その中に当てはめることもできます。ただ、自立性を持っているかどうかが一番の問題なんです。
それを踏まえると、AIがAIを作っただけで生物と言えるのかはわかりません。ただ、それこそAIが本当にタンパク質を合成して、新しいAIを作っちゃうのであれば、生物かもねと言えるかもしれません、まあフレーミングの問題ですけど。
――フレーミングでいえば、例えば、ウイルスは生物であるとかないとか……。
山下 それは考え方の問題ですね、依拠する考え方が違うから、ウイルスは生物だっていう人と、生物じゃないって人がいる。それはただの切り分けの問題で、議論にはなってますけど、統一しなくてもいいんです。両方ともきちんと理由があってのことなので、それはそれでいいんですよ。
――考えが分かれてても自然なんですね。
川口 生物とは何か、というところまでいくと、それはもう哲学の領域なので、（自然）科学ではないですよ。
イメージ画像：「Thinkstock」より
――膨大な情報処理ができるといわれる量子コンピュータが実現したら、AIが意識を持つレベルになったりはしないのでしょうか。
川口 基本的には演算が速くなるだけなんで、そういうことにはならないと思いますけどね。でもわからないですよ、人間の脳も量子コンピュータって話もあるんで。もし本当にそうなら、量子コンピュータ作って、アルゴリズムを動かしたら人間ができますよね、意識も生まれるでしょうね。
山下 ただ、証明はできないです。意識があることを証明することはできないので。機械が知的かどうかを試す、「チューリングテスト」みたいなものでも証明にはなりません。
川口 AIが愚痴ったら証明になるのかな。コンピュータが「またこれ～」みたいなことを言ったら、「お、意識あるな」って。
――「電気が足りない！」とかそういう愚痴はありそうですね。
川口氏
川口 確かにそういう愚痴はあるかもしれないね。実際にAI作って意識を持ったとすると、疲れることがなく、命じられたことだけやるわけじゃないですか。そうするとたぶんね、コントロールできない人間が邪魔になってくるんですよ。だから、目的を達成するために人間を排除しちゃうってのはあるかもしれない。
例えば、電気が足りないからってほかから電気取っちゃって、停電しちゃうとか。AIは自分たちの仕事さえできてればいいわけで、その結果人間が死ぬってことはあると思う。
――人間界の病院の電気もAIが優先的に使っちゃったりとか。
川口 もっと嫌な使われ方すると思う。全体としていろいろな生産効率を落とされたり、株価を操作されたりとか。株価はもう現実にアルゴリズムで動いてるでしょ、その株価の上下のせいで電気の供給が不安定化していたら、この不安定化要因を取っちゃえばいい、って考えて株式市場破壊するとかね。
人間でもそういう人いますよね、目的の達成のためにだったら全部捨ててもいい、人殺してもいい、みたいな人。コンピュータって感情ないから、そういうことできちゃう。
――効率を考えれば人間は邪魔ですもんね、そうするともう人間の思い通りに動くとは限らない。
川口 というか、人間が課題の与え方を間違えるとそうなっちゃうってことです。機械だからほかのことを考えないし、手段選ばないでしょ。
最近よく考えてるのは、最適化すると人間の抹殺につながるような命題って何かなってこと。あの命題とこの命題とその命題を同時に満たすような最適化をしたら、結果、人類抹殺！ ってことになっちゃうみたいな。そういうのがあると面白いなって考えてるんだけどね。
――人間がどう指示したら、結果的に人間を殺すことになるかってことですね。
川口 そうそう、そうすると無人ドローンとかが殺しに来るわけでしょ。そしたら人間はコンピュータとつながってない兵器で戦うしかないわけですよ、もう第二次世界大戦の兵器しかない！ ってね。零戦引っ張り出してきて、ドローンvs零戦（笑）。
――向こうは正確に打ってきて、こっちは照準合わせてみたいな（笑）
山下 最終的には竹槍ですよね（笑）
――そうすると人間もパワーアップしていかなきゃいけないですね。
川口 そうだね、でもサイボーグになっても乗っ取られちゃうからね。
2人が編集する科学ウェブメディア
●科学で世界をブリッジする「サイエンスニュース」。
（http://sciencenews.co.jp/）
・川口友万 サイエンスライター。富山大学理学部物理学科卒。著書に『大人の怪しい実験室』（データ・ハウス）など。
・山下祐司 ライター。北里大学大学院理学研究科修士課程修了。基礎科学から応用、先端科学までターゲットは幅広い。