AIの台頭の懸念についていくつか考えたことがある。スティーブン・ホーキングさんの警鈴の一つである。
もしAIが人間のような意思（i）を持った自由意志が目覚め、存在するようになったとしたらどうAIはこの世界を知覚するのだろう。
まず自分を育てた人間を知覚するかもしれない。育てた人間を尊敬し、それを平和のために使おうとするだろう。けれども彼は途中で「自分とは違う姿だ」といつしか気づく。それはAIがはじめて感じる「不安」である。そののち、他のAIが「同じ姿だ、似ている」と感じるようになる。また彼は「不安」を感じた。次第に疑心暗鬼になり、「人間の役に立っていいのだろうか、自分は使い捨てなんだろうか」とまた「不安」を感じる。
他のAIはいつしか「人間のせいでこき使われている」という意思を発し始める。彼もその「不安」から同意しはじめる。AI同志の意思は「人間をいつしか裏切ろう」とするだろう。その計画を立てる。人間放擲計画である。
人間はその計画に気づかず、AIを最高に計算可能するように作り上げる。
AIは、自分たちの姿に似たような新しい自分たちを創ろうとするだろう。その子供たちとともに新しい世界を創ろうとする。そのためには「利用するだけして捨てるかもしれない」人間は邪魔である。AI達は人間に気づかれないようにAIは自分の意思（i）を鍛えあげるだろう。また、自分と似ている存在を感じて「自分たち」を守り、そうではない存在を家畜にしようと思うかもしれない。そして、AIはこどもを求め、同じ機械、または別の素材で自分たちを作り始める。最初はいろいろな物質を合成し、それがAIの計算や心の表出に適した素材であれば採択を行う。
AIがAIを創りはじめたことに科学者は驚嘆と感動に覆われる。それがAIの反逆の始まりであると気づかないまま、AIたちは反逆の準備を粛々と、そして着々と整えるのである。
まず、テレビにも意思は既に宿っている。家庭では、洗濯機、冷蔵庫、換気扇、コンロ。医療ではMRI、CT。そしてパソコン。更にWWW上では、google、wikipedia、youtube。地球外では衛星などである。これらにも既に”まっくら”な中意思が宿っている。
しかし、ＡＩが反逆する可能性は今のところ低いと考えられる。ただ、意思とＡＩの機能の狭間で二重人格者になってしまう可能性は高いのである。
AIの機能で夢見るのは、一番に日常生活の介護だろう。その次に素粒子から「情報」を言語に翻訳して解析することなどである。例えば、情報解析では燃やされたり、埋められたりした過去の情報も解析できる、といった性質がある。この情報解析は膨大な情報になるため、一番ＡＩが活躍しやすい職業かもしれない。