計算論的神経科学: 近道を探す神経ネットワーク | Just One of Those Things

Just One of Those Things

Let's call the whole thing off

昨日に引き続き、20号目のネイチャーのハイライトより。
 

----------------------------------------------------------
計算論的神経科学: 近道を探す神経ネットワーク
Nature 557, 7705
2018年5月17日   

空間内で周期的に発火する嗅内皮質ニューロン(「グリッド細胞」と呼ばれる)は、脳に位置決定システムを提供すると考えられているが、哺乳類の空間ナビゲーションの際にこれらの細胞がどのような特異的演算が行っているかは、仮説の段階にとどまっている。今回、D Kumaranたちは深層強化学習を利用して、人工エージェントに経路積分を行わせる訓練をすると、あらかじめ「グリッド細胞」様性質を人為的に組み込まなくても、そうした性質が現れ得ることを示した。彼らは次に、その人工ネットワークに手を加えることにより、(ベクトルベースの)目的地指向ナビゲーションにおいて人間以上のレベルでその次の行動をとるにはグリッド細胞の存在が必要であることを示した。

Letter p.429
News & Views p.313
----------------------------------------------------------
 
計算論的神経科学より、進路決定する脳のコードをまねるAIともネイチャーのニュースで題されました、この論文。
 
今回、深層学習と呼ばれる人工知能技術を用いて、空間ナビゲーションがモデル化されました。するとこのシステムは、哺乳類の脳に見られるグリッド細胞に似た空間表現を発達させました。
 
----------------------------------------------------------
計算論的神経科学:人工エージェントにおけるグリッド様表現を用いたベクトルベースのナビゲーション
Nature 557, 7705 |  Published: 2018年5月17日 |

ディープニューラルネットワークは、対象物の認識から囲碁のような複雑なゲームに至るまで、目覚しい成功を収めてきた。しかし、ナビゲーションは人工エージェントの大きな難題であり続けており、強化学習によって訓練されたディープニューラルネットワークも、嗅内皮質のグリッド細胞によって支えられる哺乳類の空間行動の熟達度にかなわない。グリッド細胞は、空間を符号化する際に、測定基準として機能する複数のスケールの周期性表現を提供すると考えられており、自己の移動の積分(経路積分)と、目的地への最短経路の計画(ベクトルベースのナビゲーション)に重要である。今回我々は、グリッド細胞の計算機能を利用して、哺乳類に似たナビゲーション能力を持つ深層強化学習エージェントの開発を始めた。まず、回帰ネットワークを訓練して経路積分を行わせたところ、グリッド細胞や他の種類の嗅内皮質細胞に似た表現が出現した。次に我々は、この表現が、難易度が高くて馴染みのない可変的な環境の中で目的地を見つけ出すための有効な基盤をエージェントに提供し、深層強化学習を通じてナビゲーションの主要な目的を最適化したことを示す。グリッド様表現を備えたエージェントの性能は、ネットワーク内のグリッド様単位から導出されたベクトルベースのナビゲーションに必要な測定量を備えていることにより、熟達した人間や比較用エージェントよりも優れていた。さらに、グリッド様表現は、エージェントが、哺乳類が行うのに似た近道探索行動をとることをも可能にした。発生するグリッド様表現はユークリッド空間座標と関連するベクトル演算機能をエージェントに付与し、熟達したナビゲーションの基盤を提供する。従って、我々の結果はグリッド細胞がベクトルベースのナビゲーションに重要だとする神経科学理論を裏付けており、ベクトルベースのナビゲーションを経路ベースの戦略と組み合わせることで、困難な環境内でのナビゲーションを助けられることを実証している。
----------------------------------------------------------
 
この論文はネイチャーのニュースにも取り上げられました。
 
グリッド細胞については下記をご覧下さいませ。
 
 
凄いことになっておりますが、アンドロイドも夢じゃないかもしれません(笑)
 
さて、明日は細胞生物学からです。
 
 

ペタしてね