昨日は大学院で金融レギュレーションと経営戦略・金融機関ビジネスモデルを研究している方と会食。論文談義となり、人工知能について話しているなかで、ふと「フレーム問題」が話題に。
▼さて、「フレーム問題」とは、以下の思考実験により示されている（岡本裕一朗『いま世界の哲学者が考えていること』ダイアモンド2016年の108頁、ダニエル・デネット論文の紹介という形で）。以下が概略である。
（１）R１というロボットがいた。ロボット開発者はバッテリーを時限爆弾がセットされている部屋から取り出すよう指令を下した。R1はワゴンに載ったバッテリーを持ち出す作戦を立て、ワゴンを部屋から出したが、R１は爆破されてしまった。時限爆弾もワゴンに載っていたためである。
（２）ロボット開発者はR２というロボットを作った。R2は自分の行動の意図した結果とともに、意図しなかった結果も判断するように改良された。R２はR１同様、指令を実行するために結果を次々と考え始めた。ワゴンを取り出しても部屋の壁の色は変わらないだろう。ワゴンを引き出すと車輪が回転するだろう。…（中略）。R２がこう...した結果の証明に取りかかったときに、時限爆弾がさく裂したのである。
▼この思考実験では、無数の結果を考慮していては行動を起こすことができなくなること、仮に「目的に関する重要な結果だけを考慮し、他を無視せよ」と命じたとしても、どれを無視してよいのかを無限に判断しなくてはならなくなり、何も行動できない、とするもの。このため人工知能には限界があるとするものであるが、岡本によると、実はこの「フレーム問題」は人間にとっても状況は同じであることに注意すべきであるとする。人間や車の自動運転をするような人工知能は「フレーム問題」は結局解決できないことを前提に、問題に陥らないように行動する、と設計することで行動できるようにしているのだとしている。人間や組織が行動を行う場合の示唆があるように思われた。
▼さて、「フレーム問題」とは、以下の思考実験により示されている（岡本裕一朗『いま世界の哲学者が考えていること』ダイアモンド2016年の108頁、ダニエル・デネット論文の紹介という形で）。以下が概略である。
（１）R１というロボットがいた。ロボット開発者はバッテリーを時限爆弾がセットされている部屋から取り出すよう指令を下した。R1はワゴンに載ったバッテリーを持ち出す作戦を立て、ワゴンを部屋から出したが、R１は爆破されてしまった。時限爆弾もワゴンに載っていたためである。
（２）ロボット開発者はR２というロボットを作った。R2は自分の行動の意図した結果とともに、意図しなかった結果も判断するように改良された。R２はR１同様、指令を実行するために結果を次々と考え始めた。ワゴンを取り出しても部屋の壁の色は変わらないだろう。ワゴンを引き出すと車輪が回転するだろう。…（中略）。R２がこう...した結果の証明に取りかかったときに、時限爆弾がさく裂したのである。
▼この思考実験では、無数の結果を考慮していては行動を起こすことができなくなること、仮に「目的に関する重要な結果だけを考慮し、他を無視せよ」と命じたとしても、どれを無視してよいのかを無限に判断しなくてはならなくなり、何も行動できない、とするもの。このため人工知能には限界があるとするものであるが、岡本によると、実はこの「フレーム問題」は人間にとっても状況は同じであることに注意すべきであるとする。人間や車の自動運転をするような人工知能は「フレーム問題」は結局解決できないことを前提に、問題に陥らないように行動する、と設計することで行動できるようにしているのだとしている。人間や組織が行動を行う場合の示唆があるように思われた。