「AI以後　著丸山俊一」読んで考える

帯広告

表

これが進行中の未来の姿だ。

世界の異能が語る、人類とAIをめぐる最先端のビジョン

裏

第１章　意識　AIはどこまで信頼できるか

……マックス・デグマーク（宇宙物理学者、MIT教授）

第２章　倫理　AIに正義は決められるか

……ウェンデル・ウォラック（倫理学者、イェール大学研究員）

第３章　自律　AIが心を持つと何が起きるか

……ダニエル・デネット（哲学者、タフツ大学教授）

第４章　進化　AIで人間は何物になれるか

……ケヴィン・ケリー（著述家、編集者、「WIRED」元編集長

終章　「逆転の発想」がもたらす視界

……（丸山俊一）

「人間vs.AI」を超えた、次代の半歩先を志向せよ。

万能論や脅威論を超え、フラットに現状を密えることで見えてくる、テクノロジーの真のリスクと可能性。

人類は、そして世界はこれからどうなるのか！？

表紙裏

AGI（汎用人工頭脳）が誕生したら、私たちの生活は一変するでしょう。「いつの世になっても機械より人間の方が上手くできる仕事はなくならない」と言っている人々は、単純に「AGIは実現しない」と信じているにすぎません。

････マックス・テグマーク

AIは格差を拡大する可能性があります。開発の現状を見れば、その可能性は高いと言わざるを得ないでしょう。そこで大きな問いが生じます。皆の利益となるようなAIの使い方はないのでしょうか？あるなら、どういう使い方でしょうか？

････ウェンデル・ウォラック

AIが自律性を持てば、私たちに書く仕事をするようになるでしょう。意識を持ったAIが非常に率直で、誠実で、全く裏表のないものになることは期待できません。

…‥ダニエル・デネット

AIはすでに創造的になっています。彼らに創造性がないという考えは完全に間違いです。ポイントは彼らの創造性は人間のそれとは違うことです。それが彼らのメリットです。

･････ケヴィン・ケリー

読み終わって

表紙裏にある著者毎の問いかけにほぼ答えている。

結果としてAI以後とは、AGI(汎用人工知能)が自律性をもって、ディープラーニングやらメタデータやらを駆使して勝手にAIを作れるようになった世界を想像している。

表紙裏の内容で満足できない場合、本書を詳細に読むことになる。

AIという新技術は総合の学びであり、いろんな面から検討しておく必要がある。そこで今回の宇宙物理学、倫理学、哲学、著述家、そしてまとめ役のNHKプロデュサー丸山俊一の構成になっている。

丸山俊一の狙いは新しい人のかたちなのではと考えさせるところがある。

どういう事かと言うと、その道の専門家4人の意見と丸山俊一というプロデュサーがまとめている意見を自分なりに噛砕いて理解し、リベラルアーツとして身につけ、もうすぐ訪れるとも言われているシンギュラリティーを迎えたときに想定外とは言わない人になることを期待しているのではなかと深読みさせる。

著者のあとがきにある＜様々な人との出会い、関係性のなかに「他者性」の発見の機会はあり、「異能」達との対話も終わらない。その感覚を人に留めず、野生の他者性にも機械にも拡張するセンスが「AI以後」も鍵になるのだとすれば、その連続性のなかで、思考と創造力の旅を続けさせてもらっていることに感謝し、またこの書が多くの皆さんの対話のきっかけとなることを願う。＞

とあるように人と人のつながりから野生や機械にまで対話ができるのかという問いを生んでいる。

人間の進化とは「設計なき適応」の結果であって、今持つ道徳、倫理観や自律性といったものが数字で捉えるような融通の利かない(完全な)ものになっていないことを再確認させられる。

爪痕を残す

結局人間の好奇心はナニモノも妨げることが出来ず、行き着くところまで行くと判っているのではないのか？

人間とAIの付き合いは、＜自律させないAIを人間が使用する＞＜自律性をもつAIと人間が協働してゆく社会を創る＞＜自律したAIに仕事を任せる＞と様々な形が共存する状態が訪れるのではないか？そこにAIに使われるということがないことを願うが、仕事を奪われるというのは現実化されるかも。

AIにAIを監視させて人間のコントロール下に置くという手段が成りたたないか？

ソフトもDNAもコピーされてゆくのが本質ならばDNAの場合「設計なき適応」の中で長い歴史から獲得したのが信頼や文化であったとしてソフトのコピーはどれくらいの時間でDNAと同じような信頼や文化を獲得できるのか？それとも全く別の文化を築くのか？

欲望の資本主義2020（NHK放送）の中で岩井勝人教授の発言に

「投入しようとする不純物とは契約では還元できない信任関係、契約ではなく人に賭けることだ」というのがあって、数字から積み重ねる機械の「知やルール」と言葉から積み重ねで作られた歴史や文化の上にある人間の「知やルール」の融合も、設計なき適応によって進化してゆくことになるのかもしれない。

自分に残ったキーワードをいくつか紹介●はすべて本から引用

l 「知能とは情報処理に他ならない」知能を定義しAIの定理を証明することが大事なのはそうした理解が信頼へとつながるからです。

l 意識とは単に「主観的体験」と定義できます。

l 生活の中で物体や存在、関係性に意味を持たせることに対する理解という分野で、AIと人間は全く異なる。

l AIの出現が私たちに自身の存在感を問い直させる

l 核兵器や超人的なAIなどの強力なテクノロジーの場合、失敗から学ぶのは最悪の戦略です（二度目のチャンスはないかもしれないから）が使い方によっては世界中の人々を貧困から救い出したり、資源不足を解消したりすることによって戦争をなくすことも可能です。

l 倫理的にはAI分野で自律型のシステムを構築するべきか、それとも人間と連携するシステム作りに集中すべきか、どちらを選んでも利益と損失が伴う

l いかなる分野においても人間の能力を上回るAGIが実現すれば、AGIを使ってAI開発を進めることが出来るようになるでしょう.

l AGI（人間と同様の感性や思考回路をもつ人工知能のことを指す）を作るのならまずAGIが人間の目標を理解し、それを受け入れ、どんななに賢くなってもその目標を持ち続けるようにするにはどうすればよいか考えださなければなりません。その3つは非常に難しい技術的課題なので、時間切れになる前に多くの最も優秀な人々に答えを導き出してもらわなければならないと思います。

l 「脳の情報処理」という山の頂からの見晴らしを保証しているのはそれに至る進化の歴史であり、その山の頂を構成している文化の積み重ねなのだから。

l ソフトもDNAもコピーされてゆくのが本質

l AIが私たちの倫理観の不完全性を映し出す「トロッコ問題」

l 設計なき適応によって進化してゆく

l 人間の創造性はほぼ完全に文化的背景に依存している。脳にある情報力こそが人間を想像的にしている。AIが創造性を持つには自律的になる必要がある。

l AIが自律性を持つということは隠し事をするということであり、AIは主体性を持たずとも世論を操作しうる。

l 脳による設計だけでは「適応」できない社会であり「理解力なき有能性」がカギを握る筈だ

l AIがもたらす真の「多様性」「寛容性」とは知識としてのモノではなく身体を含めた適応の歴史の中に、それによって培われた文化の中にある歴史としての「多様性」「寛容性」を指す

信頼とは何かを考えながら、書籍を媒介にして、生涯学習が行動の糧とするような前向きな発言を心掛けています。