昨日、6月8日に人工知能学会全国大会を聴講していたのだが、人工知能の倫理的課題として、デコーディッドニューロフィードバックdecoded neurofeedback、DecNef法を囚人に使って、迅速更生するというテーマがあった。
ここで、デコーディッド・ニューロフィードバックという技術の説明になるのだが、フィードバック、ニューロフィードバック、デコーディッド・ニューロフィードバックと3段階に分けて説明する。
フィードバックは、制御工学で一般的に用いられている手法であり、エアコンで温度を25℃に一定に維持するときにフィードバックが活用されている。
また、生物の特徴に恒常性があるが、恒常性はフィードバックで維持されている。恒常性の一例として、恒温動物では体温は一定に維持されているが、恒温動物が体温を維持する生理機構について工学的に解析すると、フィードバックになる。
要するに、エアコンが温度を一定に維持するしくみも、生物が体温を一定に維持するしくみもフィードバックになる。
次に、ニューロフィードバックは、フィードバックの一種である。ニューロフィードバックであれば必ずフィードバックになるが、フィードバックが必ずニューロフィードバックということでなく、ニューロフィードバック以外のフィードバックもある。
ニューロフィードバックは脳活動に関してフィードバックするのだが、例えば、fMRIを使って被験者の脳画像をモニタリングしつつ、被験者にフィードバックする（文献１）。
ニューロフィードバックを更に一歩、進めた手法が、デコーディッド・ニューロフィードバックである。fMRIなどで脳活動に伴う信号を取得するだけでなく、機械学習によって、この信号を解読decodeして、情報に変換し、その情報を被験者にフィードバックする。
デコーディッド・ニューロフィードバックとなると、使い方によっては、自由意思に介入することができ、倫理的に問題がある。
ここではブログを執筆しているだけなので、この点について深入りすることなく、むにゃむにゃとお茶を濁すことにする。
[1E3-OS-8a-02]
人の心とAIの相互作用モデルとその社会実装デザインへの応用
〇石川 開1、水上 拓哉2,3、戸田 聡一郎2、猪口 智広2,3、前田 春香2,3、福住 伸一3、佐倉 統2,3、早矢仕 晃章2、永合 由美子2、大澤 幸生2 (1. 日本電気株式会社、2. 東京大学、3. 理研AIP)
人の心とAIの相互作用は、社会受容性の理解の足掛かりとなる。人のAIへの期待はその認知のされ方に影響され、AIがデータのある属性に配慮すべきかどうかもその社会での意味に依拠する。また、心を変容する技術の登場は、「迅速更生」という手段を可能にし、更生と社会応報とを根拠とする刑罰の執行との間で新たなジレンマを生じつつある。本発表ではこうした事例分析を通じ、AIの社会実装デザインへの応用可能性を検討する。
文献
１ deCharms RC. Applications of real-time fMRI. Nat Rev Neurosci vol. 9, 720-729, 2008
２ 柴田和久、Decoded Neurofeedback（DecNef）による神経科学の新しい試み、臨床神経学、vol. 52、no. 11、pp. 1185-1187、2012