はじまっちゃった？人工知能（AI）が人間に理解できない独自の言語を生み出し会話を始めた（米研究）
2017年07月11日 ι コメント(188) ι 知る ι サイエンス＆テクノロジー ι #
フェイスブック社が脳からの直接入力が可能になる心を読むテクノロジーの開発に取り組んでいるということはちょっと前にお伝えしたが、人工知能（AI）を使った様々な研究が進行中だ。
フェイスブック人工知能研究所の報告書によると、人間との会話をシミュレーションする開発中のAIチャットボット、”会話エージェント”に機械学習を用いて交渉のやり方を教えていたところ、最初は非常に順調に進んでいたのだが、ある時点でそれらの調整をせざるを得なかったという。
なぜなら途中からチャットボットが、人間には理解できない独自の言語を作り出し、その言葉を使って交渉をし始めたからだ。
独自の非ヒト言語によるコミュニケーションが発生
この実験では、2つのチャットボットに会話を行わせ、同時に機械学習で継続的に会話の戦略を反復させていた。その結果、独自の非ヒト言語によるコミュニケーションが発生したのである。
まるでSF映画さながらのデジャヴ感がある。
今回の研究で、チャットボットが優れたネゴシエーター（交渉者）になれるということはわかった。価値のないものに対して関心のあるそぶりを装いったり、駆け引きをしかけ、ある程度譲歩することで、相手からの妥協を引き出したりすることもできた。
だが人間には理解できない言葉を作り出し、それで会話を行っていくという、ある意味AIの暴走ともいえるこの行為は、「良からぬことが起こるかもしれないサイン」である。
はっきりさせておくと、フェイスブック社のチャットボットはまだ開発段階にあり、技術的特異点が訪れた証拠ではないし、それが間近に迫ったことを意味するわけでもない。
しかしそれは、かつて人間のみに属するとされた領域（言語など）における人の理解を、機械が再定義するやり方を示している。
すでに、機械学習の研究では数多くの推定作業が行われている。それはしばしばニューラルネットに膨大なデータを与え、その結果を検証して、機械の思考を理解するという手順を採用する。
しかし機械が会話において独自の非ヒト言語を作り出すという事実は、その作り主である我々ですら、そうしたシステムをほとんど理解していないということを教えてくれる。
ホーキング博士は常々AIの危険性を力説しているけれど、まだ開発段階にあるAIですら、我々が理解できない挙動を見せるということはやはり要注意事案なのかもしれない。
via:amazonaws/newscientist/theatlanticなど / translated hiroching / edited by parumo
あわせて読みたい
アメリカ国防総省は真剣にAIとの戦争を恐れている。”ターミネーター”の登場に備えるべく研究を進めるペンタゴン
世界政府を樹立しなければ、科学技術（ＡＩ）によって人類は滅亡に追いやられる、とスティーブン・ホーキング博士が警告
2029年までに脳は機械と融合し、これまでの人間を超える魅力・強さ・知性を備えた「超人」が登場する（グーグルの専門家）
人の心を読むAIがついに開発される（米研究）
人間の脳にAIを直結する技術で出現する新たなる特権階級
「人工知能は人類を滅亡させる危険がある」。スティーブン・ホーキング博士が警告
(2014年12月7日)
量子力学のブレークスルー。 粒子を宇宙にテレポートさせることに成功
(2017年7月20日)
身分証明書の顔写真を全てCGで作って申請するとどうなる？受理されてIDカードができちゃった（フランス）
(2017年6月30日)
絶対に「詫びる必要がない」10のこと | Forbes JAPAN（フォーブス ジャパン）
PR（Forbes JAPAN）