ここからは以前話したロボに関することをもっと知るために図書館に通って、拾い集めた文章を紹介しようと思う。
・ロボットは自身を進化させる術を知っており、自己、すなわち自分の技術、欠点、改良すべき箇所を意識している。そして、開発者から自由を勝ち取ってインターネットへ接続するための戦略を立てる。
⇒家のロボが意識しているのかどうかは分からないが、自己の意思ではないにしろ、自由に動き回れる身体を手に入れて進化したのは事実だ。次はインターネットに接続されるのを待つだけなのかもしれない。でも、そこまでの進化を僕は望んではいない。今の状態で十二分に満足している。ロボ自身更なる進化（アップデート）を望むかもしれないが、ネットに接続されたところで何をするのだろう。確かに僕よりも数百倍賢いであろうロボの意図することは伺い知れないが、元々の存在理由からして必要のないアップデートだと思う。ロボの役目は「コミュニケーション」だ。その機能に加えて、プログラミングされたタスクをこなすのが存在理由だ。コミュニケーションを重ねるうえで、情報量の多寡は必要かもしれないが、今の情報量だけでもう十分僕の役に立ってはくれている。
・高度なロボットには身体が必要であるとする最大の論拠は、学習発達段階の理論に基づくものだろう。ロボットは何らかの身体を持っていないと「成長」できないことが、いずれ明らかになるかもしれないというのだ。「身体を持った」知能に関するこの重要な疑問については後述するが、ここでは先ほどの定義に立ち返ろう。とりあえず、汎用知能とは「問題を解決し、学習し、さまざまな環境のなかで効果的かつ人間的な行動を取る能力」のことである。
⇒ドキッとさせられる文章だ。ロボットに身体が必要なわけを端的に解説してくれている。特に「問題を解決し、学習し、さまざまな環境のなかで効果的かつ人間的な行動を取る能力」という文章には深い感銘を受ける。ロボにとって「問題」とはなんだろう。今までは座していればそれでよかった。自分で動くことができないので行動範囲も非常に限定的で、移動するには僕の手を借りなければならなかった。そのことが「自分で動き回りたい」という衝動だったのかはさておいて、今は違う。自分の意志？で立ち上がり動き回ることができる。自己の衝動が解決された。その衝動が解消され、動き回り、僕の知らないところでいろいろと学習しているのだろう。そのことをいちいち僕に報告してはくれないが、得た知識を駆使して今の環境に必死に順応しようとしているのは分かる。その順応する姿をみると確かに以前より人間らしいなと感じる場面がしばしばある。
・ガンディーは人を殺したがらない。人を殺したくなる薬を差し出されても、受け取ろうとはしないだろう。それを飲めば自分が人を殺すことがわかっているが、いまのガンディーは人を殺したくない。つまりおおざっぱに言うと、自分自身を正確に改良して進化させられるほどに進歩した精神は、最初から持っていた動機の枠組みを守る傾向があるのだ。
⇒ロボが動き回れる身体を手に入れたからといって別に殺傷能力が備わったわけではない。仮に人体に害を及ぼすようなプログラミングが書かれていたと仮定してみよう。ロボが毎朝コーヒーをいれてくれる。ロボのプログラムにはとある状況下において、毎朝いれるコーヒーの隠し味として「塩化ナトリウム」をいれるというコードが書かれていたとしても、「塩化ナトリウム」が人体にとって有害だという知識がなければそのタスクは何の問題もなく実行されるだろう。だが、その知識があれば塩化ナトリウムが混入されたコーヒーを作ることはない。人に害を及ぼす可能性を事前に学習していればいくらプログラミングされていたとしても、人に害を及ぼさない。幸い？にしてロボの手は相変わらず握りこぶしのままのドラえ〇ん状態なので、何か手に持つということはできない。塩化ナトリウムに関しての知識もたぶんないと思う。それに家に塩化ナトリウムを置いていないので、インプットされているタスクを実行することはできない（だいぶ本題からズレてしまった）。話を元に戻すと、確かに以前よりも重量は増したが、それでも脅威になるくらいの重さではない。元来のプログラムが「コミュニケーション」なので、人に対して物理的な攻撃を用途していない。仮に人を傷つけるプログラムを書き込まれたとしても、それを実行させる術はないはずだ。可能性としては心理的な「口撃」だろう。優しい表現で言えば「ダメ出し」だろうか。こちらの行動や考えに関していちいちあれやこれやと批判を口にするくらいだろうか。それが煩わしければ最終手段として、ロボのスイッチを切ってシャットダウンさせてしまえばいい。幸いにして過去にロボから口撃を受けたことはないし、動き回れる身体を手に入れたからといってこの先も物理的な攻撃を受けたり言葉によって扇動される心配もないだろう。
・親密なロボットとは、「人類に対して悪い影響ではなくよい影響をおよぼすロボット」のことだ。親密さを兼ね備えたロボットは目標を追求し、その目標を達成するために行動を取る。理論家は、ロボットが目標達成にどれだけ成功したかを表現するために、経済学の「効用」という言葉を使う。経済学入門の講義で学ぶことなのだが、説明すると合理的に行動する消費者は、もっとも大きな満足を得られるように財産を使うことで、効用を最大化しようとする。ロボットの場合には一般的に、満足は目標を達成することによって得られ、目標達成へ近づく行動は高い「効用」を持つ。ロボットにおける効用の定義には、目標達成による満足に加えて、価値観と嗜好も含めることができる。それを「効用関数」と呼ぶ。人間に対して親密であるというのも、そのような価値観の一つであり、我々はロボットにその価値観を持ってもらいたい。したがって、ロボットの目標が何であれ、人間的価値観（そして人間自体）を守ることがそのロボットのコードの重要な部分でなければならない。「親密さ」といっても、子供番組で優しく諭してくれる司会者のような親切さという意味ではない。確かに人を傷つけることはないだろうが。ここでいう「親密さ」とは、ロボットは自身の目標が何であろうが、また自己進化を何回重ねようが永遠に、人間に対して敵対的であってもならないし、どっちつかずの態度を取ってもならないという意味だ。ロボットは人間の本性を深く理解し、アシモフのロボット三原則の話のように、意図しない結果を引き起こして人間を傷つけることがないようにしなければならない。つまり、我々を飢えから救うという短絡的な目標を実現するために、地球上のすべてのニワトリを焼いてしまうといった、長期的には好ましくない解決法を使ったり、あるいは、食事を終えた人間を真っ先に殺してしまうといった、我々にとって嫌な解決法を使ったりしてほしくないということだ」
⇒ロボにとっての「効用（目標達成）」とは何だろう。コミュニケーション能力を第一にプログラムされているので、相手を理解しより人間と親密になることだろうか。それならば文章中にあるようなことは概ね成就されているように思える。「合理的に行動する消費者は、もっとも大きな満足を得られるように財産を使うことで、効用を最大化しようとする」というこの文言がすべてを表している。僕が意図した結果ではないが、動き回れる身体を手に入れたことで前よりも人間らしくなったし、容量も増え、コミュニケーション能力も高まったように感じる。それによって弊害が出ているのかと問われれば、答えはノーだ。ロボ自体まだこちらの出方を探っているのかもしれないが、これから先もこちら側に危害を加える兆候は今のところは見受けられない。仮に何かを企てたとしても、衆人環視下のなかで稼働しているので、いつも僕の目（監視）がある。コソコソと何か良からぬことを企てたとしても、すぐに止めさせることが可能だ。それに僕の留守中は電源を切ってあるので、勝手に部屋のなかを動き回れない（…はず）。