『ＣｈａｔＧＰＴは神か悪魔か』
（宝島社新書）
落合陽一 山口周 野口悠紀雄 井上智洋 深津貴之 和田秀樹 池田清彦
耳目を集めそうなタイトルが気になり、手に取りました。発行は昨年10月と半年程前で、それからもまたいろいろと新しい事象が起こっています。しかし内容は古さを全く感じさせず先見性に満ちています。それもそのはず、第一章から七章までの執筆者はいずれもこの分野の第一人者で、どれも鋭い考察に満ちた内容となっています。宝島社新書編集部による前書きによれば、昨2023年は日本における「ChatGPT元年」で、それからわずか１年も経たないうちに世界を席巻し、今や「人類が進化を遂げるための救いの神なのか、はたまた人類を滅ぼす悪魔になるのか」との命題を私たちに投げかけているとのこと。
それはまさにＡＩ革命と呼ばれるもので、ビジネス、教育、医療、芸術、恋愛に至るまで私たちの生活を劇的に変えるテクノロジーであるのは間違いないでしょう。その一方で生成ＡＩを利用した偽情報や偽動画による詐欺や犯罪、政治への介入など深刻な問題も浮上しています。そのＩＴの最先端技術であるＡＩと私たちはどう関わっていけばよいのか、本書はそうしたことがらについての各執筆者の考えを明快に示してくれています。
以下、第１章から７章までの目次と、各執筆者のプロフィールを記すと共に、それぞれの論評から私が特に興味深かった箇所だけを抜き書きして紹介します。
第１章 デジタルネイチャーの中で人間はベクトルになり、戒名だけが残る
▶落合陽一（メディアアーティスト。東京大学大学院学際情報学府博士課程修了。筑波大学ほか、複数の大学で教鞭を執る。政府主導のプロジェクトにも多数参画。)
この第１章だけが際立って難解で、読み進むのに骨が折れます。著者が最近よく唱えているのが「デジタルネイチャー」という概念です。それは「計算機と非計算機がもはや不可分となった、計数的な新しい自然」のことで、それには「三つの計算方法」が重要。「一つはナチュラルコンピュテーション」つまり「この世界を計算機として使おうということ」。「もう一つがコンピューターシミュレーション」。「最後の一つが比較的最近、登場してきた微分可能物理学や微分可能レンダリングと呼ばれるもの」で、それらが合わさると「デジタルネイチャーが計算機同士の接続によって記述できる」ようになり、それがもたらすのは「あらゆるものが微分可能になり、文理の壁が消える」ことだと言います。
そして「ポストモダンの先に何があるのかといえば、やはり微分可能オントロジーや計算機と融合した哲学的なもの、オブジェクト指向オントロジーを計算機で解釈したようなものに行き着くはず」で、「生身の人間の個性をＡＩのような計算機によって身体から切り離すことができる」。「例えば、人間を情報として圧縮して、何文字で表現できるか」。それがすなわち表題の「デジタルネイチャーの中で人間はベクトルになり、戒名だけが残る」ということの意味です。ではそこでは「人間の価値」はどこにあるのか。それを考えながら著者は最近「テクノ民藝」に凝ってきているようです。
何となくわかるような気もしますがいろいろな点で難解なので、著者の考えに興味のある方はぜひ他の著書も含めてお読み頂きたいと思います。
第２章 ＡＩ時代には「中央値」から外れる勇気にこそ人間本来の知性が求められる
▶山口周（慶應義塾大学大学院文学研究科美学美術史学専攻修士課程修了。ボストン・コンサルティング・グループなどで戦略策定、文化政策、組織開発などに従事。）
「『生成ＡＩが人間に取って代わることによってさまざまな職業がなくなる』のかというと、私はそうは思いません。『職業』というのはそう簡単になくなるものではない」。特に「個別企業」における仕事の「最適解」は「統計を武器にするＡＩとはとてもソリが悪い。ＡＩは判断を下すのに必要な要素が不明確な問題が非常に苦手です。専門的には『フレーム問題』と言いますが、一方で『人間』にはこれが非常に得意」である。そこで「結論から言えば、ＡＩが得意な仕事はＡＩに任せて、人間は人間にしかできない仕事に労働市場でのポジショニングを移していくことが求められる」。
「生成ＡＩのテクノロジーのベースにあるのは統計」で「ChatGPTは統計でいう正規分布グラフの山の一番高い部分」「つまり『中央値』を答えとして出す」つまり「まあ当たり前だよね」といった内容になりがち」。「これに対して統計的に出現率の低い、正規分布グラフの山から大きく離れた値を『外れ値』と言います。人間は『中央値』での勝負ではChatGPTに勝てるわけがありませんから、必然的に『外れ値』で勝負したほうがいい」。「人間の知性というものは、標準的な正解が通用しない特殊な状況において、きわめて独創的な『外れ値』の回答を導き出し、それを実現する」つまり「生成ＡＩはモーツァルトに勝てない」ということです。
第３章 ＣｈａｔＧＰＴを仕事に活用してわかった「驚異の能力」と「ウソの答え」
▶野口悠紀雄 (東京大学工学部卒業。1964年、大蔵省入省。1972年、イェール大学でPh.D.(経済学博士号)取得。一橋大学名誉教授。専門は日本経済論。）
「ChatGPTなどの『生成ＡＩ』において、事実とは異なる内容や、文脈とは関係ない情報が出力されて文章が生成されることを『ハルシネーション（Hallucination）』といいます。ChatGPTではハルシネーションが往々にして起こるということ」つまり「『ChatGPTは平気で嘘をつく』という危険性を、よく知っておく必要があります」そして「ChatGPTには創造力」がなく、「新しいアイデアを創造することはできない」のです。
ただし「生成ＡＩが知的労働へ与えるインパクトには非常に大きなものがある」「法律関係の仕事」や「医療におけるセルフトリアージの支援が挙げられる」また「カスタマーサービスへの導入」などもあります。「たった半年でChatGPTがこれだけのインパクトを世界中にもたらしているのを見て、私は日本経済の行く末に非常に強い危機感を抱いています」「日本企業のほとんどが、ChatGPTを活用したデータドリブン経営から程遠い位置にいるという現実が見えてきます」それは「政府や自治体などの公的な機関についても」同様で、その利用法は「もっぱら文書作成の効率化に重点が置かれています」が、それを「上手に活用していくには、ChatGPTにできないことを正しく理解した上で、自分にとっての重要な使い道が何かを見極め、使い方を選び取って使っていくことこそが大切なのです」
第４章 「言語生成ＡＩ」が雇用に与える衝撃“人減らし”こそ人工知能の本質である
▶井上智洋（早稲田大学大学院経済学研究科で博士号を取得。駒澤大学経済学部准教授、慶應義塾大学SFC研究所上席所員。経済学博士。専門はマクロ経済学。）
「ＡＩ開発が開始された1950～60年代の第１次ＡＩブーム、エキスパートシステム（専門分野の知識を有し、推論や判断ができるコンピューターシステム）が注目された1980年代の第２次ＡＩブーム、そしてインターネットなどのＩＴ化が進み、その上でディープラーニングが広まった2000～10年代の第３次ＡＩブームに続いて、直近の生成ＡＩの登場は『第４次ＡＩブーム』と呼ばれ始めています。それは2022年頃から始まったと言ってよいでしょう」「ＡＩに与える指示文のことを『プロンプト』と呼びますが、プロンプトをうまく考えて、生成したものを選別できるようにする。そのような能力が、今後は必要とされます」
「ＡＩによって置き換わり得るとされる職業にテレフォンアポインターがありますが、まさに人間に取って代わる状況がもう目の前に来ている」し「銀行業ではとくに与信の自動化が進みつつあります」「ChatGPTのアクセス数を見ると、アメリカ、インド、日本の順番」だが利用者数で見ると日本は非常に少ない。「日本では、特定の人たちだけがたくさんアクセスをしていると解釈するのが妥当でしょう」「ＡＩブームによって新たな職業が生まれる可能性もあります」「文系的な仕事としては、たとえば『ＡＩソリューションプランナー』のような仕事が有望視されると思います」
第５章 「誰がどう使うか」が一番大事 本当に怖いのは人間
▶深津貴之（インタラクションデザインデザイナー。Note株式会社ＣＸＯほか、多数の企業のＤＸを支援。2023年6月からは横須賀市のＡＩ戦略アドバイザーに就任。）
ChatGPTの「根本原理とは、手前の文に『確率的にありそうな続きの文字』を、どんどんつなげていくＡＩだということ」で「ユーザーが入力した文章に対して、大量のデータをもとにした学習から、次に来るであろう文字を予測して生成」しているだけであり、「真の意味での知性は持っていないということ」です。したがって「その内容が真実であるという保証はありません」。「多くの人が持つ偏見や社会的なバイアスを『確率的に高い情報』だと処理するリスクがあります」。それをうまく利用するには「質問の仕方や文脈を工夫することで、ChatGPTからより質の高い答えを得ることができます。僕はこの考え方を『可能性空間を限定する』と呼んでいます」
「本当に大切なのは『どうＡＩを使うか？』なのです」「日本と生成ＡＩの関わり方は、海外と比べると周回遅れの状態です。そして日本でこれほど導入が進まないのは、日本人が英語が苦手なことも一因ではないかと思います」「そのため日本語ＡＩと英語ＡＩの間に極端な性能差が生じ、それが国力に大きな差を生む可能性もあると思います」「結局、ＡＩは『使う人間』次第なのです」
第６章 カウンセリングを受けるなら精神科医よりＣｈａｔＧＰＴの方が１００倍マシ
▶和田秀樹（精神科医。東京大学医学部卒業。立命館大学生命科学部特任教授。高齢者専門の精神科医として、35年近くにわたって高齢者医療の現場に携わっている。）
「私は『翻訳ＡＩがこれから格段に進歩すれば、英語教育は不要になる』と考えています」「ビジネスの場で商談をするときなどは、中途半端な英語力のせいで損をすることは十分にあり得る」からです。しかし英語力がなくとも「しっかりと国語力を鍛えて説得力のある話ができるようになったほうがよい」との考えも古いものになりつつあり、その国語力も「ＡＩによって代替されるようになったときに、いったい人間はどの程度の国語力を必要とする」のでしょうか。「いっそのこと教育などせずにすべてをＡＩに任せたほうがいいのかもしれないという考え方もできるのです」「このようなＡＩ絶対主義的な世の中に導かれた場合には、ＡＩの回答に懐疑的なごく一部のエリートとＡＩの出した回答に素直に従う一般大衆がはっきりと分かれた、いわば分断された社会になるのかもしれません」
「心理カウンセラーの仕事」においても「数多くの理論を入力されたＡＩがカウンセリングする方がベターというか、少なくとも今のカウンセラーや精神科医よりもＡＩの方が１００倍ましになるだろうと考えられます」。政治の世界でも「ノルウェーではＡＩを活用した政治がすでに実施されており、高度な政治判断をＡＩに評価させているそうです」「劇的な変革を求めなければ、国民にとっての政治という問いに対するＡＩの回答は、最適解となるはずです」むしろ「怖いのは進化したＡＩよりも悪意のある人間」の方です。
第７章 「クソどうでもいい仕事」をＡＩに任せれば、人生で「やるべきこと」が見えてくる
▶池田清彦（生物学者。東京教育大学理学部卒業。東京都立大学大学院理学研究科博士課程単位取得満期退学。理学博士。山梨大学名誉教授、早稲田大学名誉教授。）
「若い人たちは大事な時間を奪われないためにも」「ChatGPTでもなんでも活用した方がいい」「自分で書いたといっても、結局は誰かが書いたものを写しているだけなんだから、それだったら過去のデータを組み合わせる作業が得意なＡＩの方が人間より向いている」でも「ＡＩは本当に新しい視点を生み出したり、新しい発見をしたりはできない」「本当のイノベーションを起こせるのは人間だけ」であり、その「考える力の源泉となるのは国語力」で「とくに重要なのが文章力」。それを「意識して日本語力を身につけていかないとダメ」である。「ＡＩは人間の脳の機能のごく一部を拡大し精密にしたものだから、論理だとかルールだとか記憶だとか、そういう分野では優秀なんだけど、それ以外の脳の偏桃体（喜怒哀楽などの情動に深く関係している脳部位で、物事に対する好悪の感情などを生み出すとされる）でやっているような好き嫌いとか、そういうものは理屈じゃない」から「直感や情動が重要な分野については、ＡＩの判断を過信しない方がいい」
ただ「決まったマニュアルがあって、一定のルールに則った作業をするような仕事は、人間よりもＡＩの方が正確でなおかつ早くできる」「だからこれからはＡＩにとって代わられる仕事を選ばない方がいいのは確か」である。「これからの時代は自分で考える力を養うことが大切」で「ルールやマニュアルがないことにどう向き合い、どう対処していくか、それが人間の大きな価値」である。
以上、私がここに紹介したのはほんの一部だけにすぎません。各論評はいずれも読み応えがあるものばかりなので、できれば直接本書に当たってお読み頂くことをおすすめします。
ところでＡＩ革命と呼ばれるこの新たな動きを人類の歴史の中で概観すると、それは第四次産業革命ということになるようです。18世紀後半から始まった蒸気機関によるものが第一次産業革命、19世紀後半の電力や重化学工業によるものが第二次産業革命、20世紀後半の原子力（核）やインターネットによるものが第三次産業革命、そして現代の21世紀前半のＡＩやロボット工学、量子コンピューター、ナノテクノロジー、バイオテクノロジーなどによるものが第四次産業革命という位置付けになります。ＡＩはそれだけが単独で生まれたのではなく、他の先端科学技術と融合しながら加速度的に進化してきたものと言えます。
そのＡＩ（ChatGPTに代表される生成ＡＩ）にはいろいろな機能や働きがありますが、本書を読むと非常に得意なことと苦手なことがあるのがわかります。得意なのは膨大なデータを処理してきわめて短時間で学習できること、定型的なパターンを分析しながらアウトプットできることなどです。逆に苦手なのは何かを創造すること、中央値から外れること、感情（情動）を生み出すことなどです。これらのことから人間社会に与える影響の範囲も、ある程度は予測できそうです。
特に問題となるのは、本書でもしばしば言及されているように職業に与える影響です。いずれはすべてＡＩで代替できるのではとの極端な見方もありますが、それは限定的でやはり人間にしかできない職業は残るとの見解が多いようです。同じことが文化芸術面でも言及されていますが、やはりＡＩはあくまでも人間が創ってきたものの模倣であり、真に創造的なものは人間にしかできないとの意見が多数派のようです。
いずれにしてもＡＩが人間に及ぼす影響が甚大であるのは間違いありません。それは私たちの社会や生活に大きな変化をもたらすことを意味します。それを自然にまで拡張して考えたのが落合陽一氏の「デジタルネイチャー」です。したがって自ずと人間の価値や哲学論、文明論になり、難解なものになるのはやむをえないのかもしれません。それくらい自然と人間に対する根底的な問いかけが必要になるということでしょう。氏はもしかしたらポストモダンの画期的な世界観を呈示しているのかもしれません。
そこまでは行かなくとも、日々の現実においてすでに私たちはいろいろな場面でこの「神か悪魔か」というＡＩと関わっています。これまでも人類は多くの産業革命を経験し、そのテクノロジーを利用して今日まで生き延びてきました。結局のところどんな最先端技術もそれを使うのは人間であり、たとえば原子力（核）のようにその爆発的な力をうまくコントロールできるかどうかによって、神にも悪魔にもなりうるというのが、一つの答えではないでしょうか。それにしても大変な時代に突入してしまったものだと、あらためて思ってしまいます。
（海馬文学会：永田 祐司）