「“人工知能”は人間を殺さない。殺しに来るのはプログラマー」トップAI研究者苫米地英人が語るシンギュラリティの真実（康芳夫・対談）
2016.12.20
画像は、「DeepMind」より
康 「この“学習”は人工知能を考える場合のポイントになるわけだが、学習は機会的・機能的レベルにすぎないのか、それとも独創的かつ創造的に行われるのか？ そしてプログラムのコントロールを外れる可能性は出てこないのか？」
苫 「外れないことになります。碁の例はすごくいい例なので、しっかり書いてほしいんですけど、たとえばディープラーニングを使った囲碁は、億単位で自己対戦しながら学習してるので、元のプログラマーが作った囲碁のプログラムより強いし、元のプログラマーはイチコロで負けるわけです。ってことは、“勝手に進化してる”と思っちゃうじゃないですか」
――普通にそう思ってしまいますよね……。
苫 「でもそれが大間違いです。3億回の対戦で、1度もそのプログラムはルール違反をしたことがないんです。碁の黒い石を床に弾いたことは一度もないでしょ？ 全部、碁盤の線の上にしか置いていないじゃないですか。ってことは、1度もルールから外れてないんですよ」
康 「つまり、“アウト・オブ・コントロール”ができないのは、人間を超えることにならないということだ」
苫 「そう、そこがみんなわかってないんです。だから、たとえば“人を殺しちゃいけない”ってルールを決めたら、絶対に殺さないわけ。
“プログラムが、ある時急に賢くなって人間を超える”のは当たり前。でも“最初のプログラマーが作ったルールを外れることは永遠にない”。これをみんな知らないんです」
康 「ディープラーニングの結果は、常にプログラマーの指示通りだと。それであれば恐れ怯えることはないんだけれど」
苫 「それと比べて、我々が作ろうとしている本当の『人工知能』は、ルール違反もしますから確かに危険ですよね。だから “僕ら研究者を野放していいの？”ってことになるんだけど（笑）。でも、今話題にされているプログラムはそういうものじゃないから “人工知能ではない”ということになりますね。ルール違反する凶悪犯には絶対になれないから」
康 「僕の解釈では、ディープラーニングによって、プログラマーの範囲を自動的に越えるということは、“アウト・オブ・コントロール”に繋がるような気がしていたんだけど、全然違うんだねえ」
苫 「もちろん、“ルールを変える”っていうルールを作れば別ですよ？ でも、自分でルールを変えることはできないんですよ。だから、囲碁プログラムが人間より強くなって、“ああ怖い”“そのうち人間を越える”っていうのはその通りだけど、数億回の対戦中で一度もルール違反をしていない。そこがホーキング博士が理解してないところです。だからこそ、“そんなものは人工知能じゃない”と、僕らは言ってるんです」
康 「ルール違反ってどういうことなの？」
苫 「囲碁のルール違反ですよ（笑）」
康 「だって、破ったらゲームにならないでしょ？」
苫 「そういうことですよ。だから、破ってはいけないルールを明確に作ればいいんですよ。それが僕らが言ってる『プリンシプル（規律）』です。“人工知能に教えるプリンシプルを教えてくれ”と僕らは言われているんだけどね。
例えば、これからの自衛隊はサイバー軍を作っていくっていうので、その“プリンシプル”をどうやって作っていくか、これはこれから重要なことになっていく」
――重要といいますと？
苫 「これから、兵器は全部人工知能に変わっていきますからね。我々の想像のつかない戦争のやり方をするプリンシプルを作るのも変えるのもあくまでも人間。人工知能が怖いんじゃなくて“人工知能プログラマーが怖い”ってことを理解しないといけない」
なんと、洗脳だけではなく『人工知能』の研究知識を活かし、日本の国防への影響までも話してくれたドクター苫米地。果たして、このスケールの大きさはまた康芳夫のそれとは違うものの、“とても真実だとは思えないほど壮大である”ことには変わりない。次回、“北朝鮮のガキ将軍とのサイバー戦争で日本が負けてしまう理由”を語り尽くす――!!
（文・写真＝福田光睦／Modern Freaks Inc. 代表・Twitter@mitutika）
●苫米地英人（とまべち・ひでと）
1959年、東京生まれ。認知科学者（計算言語学・認知心理学・機能脳科学・離散数理科学・分析哲学）。カーネギーメロン大学博士（Ph.D.）、同Cylab兼任フェロー、株式会社ドクター苫米地ワークス代表、コグニティブリサーチラボ株式会社CEO、角川春樹事務所顧問、中国南開大学客座教授、全日本気功師会副会長、米国公益法人The Better World Foundation日本代表、米国教育機関TPIインターナショナル日本代表、天台宗ハワイ別院国際部長、財団法人日本催眠術協会代表理事。マサチューセッツ大学を経て上智大学外国語学部英語学科卒業後、三菱地所へ入社。2年間の勤務を経て、フルブライト留学生としてイエール大学大学院に留学、人工知能の父と呼ばれるロジャー・シャンクに学ぶ。同認知科学研究所、同人工知能研究所を経て、コンピュータ科学の分野で世界最高峰と呼ばれるカーネギーメロン大学大学院哲学科計算言語学研究科に転入。全米で4人目、日本人として初の計算言語学の博士号を取得。帰国後、徳島大学助教授、ジャストシステム基礎研究所所長、同ピッツバーグ研究所取締役、通商産業省情報処理振興審議会専門委員などを歴任。現在は米国認知科学の研究成果を盛り込んだ能力開発プログラム「PX2」「TPIE」を日本向けにアレンジ。日本における総責任者として普及に努めている。著書に『洗脳広告代理店 電通』（サイゾー）『日本の盲点（スコトーマ）』（ヒカルランド刊）『経済大国なのになぜ貧しいのか？』『現代版 魔女の鉄鎚』『まずは親を超えなさい！』『残り９７％の脳の使い方』『英語は逆から学べ！』 『英語は逆から学べ！実践トレーニング編』『頭の回転が50倍速くなる脳の作り方〜「クリティカルエイジ」を克服する加速勉強法〜』『脳と心の洗い方〜 「なりたい自分」になれるプライミングの技術〜』（フォレスト出版）、『本当はすごい私』（講談社）『年収が10倍アップする 超金持ち脳の作り方』（宝島社）『洗脳』（三才ブックス）、『ドクター苫米地の新・福音書』（講談社）、『スピリチュアリズム』（にんげん出版）、『心の操縦術』（PHP研究所）、『洗脳原論』（春秋社）、『夢をかなえる洗脳力』（アスコム）、『洗脳護身術』（三才ブックス）、翻訳書に『ＣＩＡ洗脳実験室』（デジタルハリウッド）など多数。
●康芳夫（こう・よしお）
1937年東京生まれ。国際暗黒プロデューサー、虚業家、家畜人ヤプー全権代理人、全地球を睥睨するスフィンクス。東京大学在学中に石原慎太郎と懇意に。石原慎太郎を隊長とする「国際ネッシー探検隊」や「オリバー君招聘」「猪木対モハメド・アリ戦」など、数々の奇抜な企画を立ち上げる。映画『渇き』にて俳優デビュー。松田翔太主演の連続ドラマ「ディアスポリス 異邦警察」（TBS）、熊切和嘉監督映画「ディアスポリス 異邦警察」にも出演。著書に『虚人と巨人 国際暗黒プロデューサー 康 芳夫と各界の巨人たちの饗宴』（辰巳出版）、『虚人のすすめ―無秩序(カオス)を生き抜け 』（集英社）など多数。
ディアスポリス公式サイト＝http://www.dias-police.jp/
公式ツイッター＝@kyojinkouyoshio
公式サイト＝http://yapou.club
有料メルマガ＝『家畜人ヤプー倶楽部（家畜人ヤプー全権代理人 康芳夫）』
無料メルマガ＝『虚実皮膜の狭間＝ネットの世界で「康芳夫」ノールール（Free！）』