今、世界中が言語生成AI Chat GPT の出現に大騒ぎです。4月１０日付のブログ記事で私の初期の感想を述べました。改めて、落ち着いてChat GPTについて考え、脳を扱う脳外科医および産業医の立場でコメントしたいと思います。
35歳以降の十年間パソコンが世の中に普及し始めたころ、誰かに指示されたからでもなく、私はとりつかれたように自ら研究論文、臨床論文、総説論文を書きまくっていました。論文を仕上げるまでのプロセスが楽しくかつ exciting だったからです。研究論文であれば自分が実験で得たデータを分析して何らかの結論を生み出し、臨床論文であれば経験症例に関して報告し、それらに自分で読み込んだ過去の文献の知見を交えて考察し、一つの論文に仕上げていく。総説であれば、あるテーマについて徹底的に論文を読みこなし、後世に評価されるような優れた総説論文を書こうと一生懸命でした。但し、自分で読みこなせるのは邦文と欧文を含め、個々の論文ごとにせいぜい100本ほどでした。一定の期間で読みこなせる論文の数には限りがあり、世の中に溢れるすべての関連論文を読みこなすなど、正直不可能でした。数に限りある引用論文を読みこなし、徹底的に自分の脳で考察し、一定の結論を出して世の中に発信するのが本来の論文作成プロセスです。そして、過去の論文の著作権に敬意を払い、選りすぐりの引用文献を明記するのは当然です。
chat GPTなるAIは世界中のあらゆる言語の論文や書籍から検索可能で、問いかけに対して膨大な数の資料から検索した結果を優れた文章にして提供してくれるそうですが、自らの脳を駆使して思考するのが仕事である学生や研究者にとっては、全く余計なお世話です。さらに、検索ソースに真偽不明のものがあり、さらに出来上がったものの真偽が定かではないとなれば、そのようなものを教育や研究に使えるはずがありません。
著明科学雑誌サイエンスや大学などの教育機関が、Chat GPTの使用禁止を次々と明言しています。一方で、Chat GPT を積極的に導入しようとしている一部の教育研究機関、企業、役所もあります。私は、研究プロセスの中で研究手法を検索する程度であればその使用はかまわないとは思いますが、Chat GPTに考察まで任せ、それを参考に論文やレポートを研究者や学生に書かせるという方針には反対です。検索のみであれば、現在の Google のみで十分です。
特に、教育機関でchat GPTを教育に取り入れることに対して、私は大反対です。その理由を列挙します。
① 学生に自らの脳で考えさせる機会と場を与えるのが教育機関の役目であり、AIに検索と考察を任せながら教育を進めるなど、本来の教育のあり方を根本から歪める。ビジネスや政治の世界でchat GPTが普及する時代が来るとしても、教育機関は頑なに学生に思考させる教育を提供すべきである。
② chat GPTが生み出した文章の真偽を確認する方法が定かでない。それは学生にとっても先生にとっても同じ状況であり、教育現場に混乱をもたらす。
③ chat GPTの生み出した結果を解釈しコントロールするトレーニングを先生が受けていない段階で、学生がchat GPTを用いて論文やレポートを提出したとしても、先生の属性や能力に応じて評価結果が異なってくる。
④ さまざまな便利機器の出現により楽をするようになった身体能力同様、脳を駆使する機会がAIに奪われれば日々の生活の中で“認知予備能”を獲得する機会が益々奪われ、将来高齢者の認知症発症率が増す。
⑤ 学生にとってchat GPTとの会話を通した勉強は、将来人間先生の指導内容を上回る指導となる可能性があり、そうなれば人間先生の存在価値はなくなり、先生という仕事の価値を毀損することにつながる。つまり、極論すれば、学生はパソコンでAIと向き合って勉強すれば十分となり、先生や教育機関の存在意味がなくなり職を失うことにつながる。
仕事の効率を上げるためにchat GPTを積極的に使いこなそうとしている企業や役所についてはどのように考えたらいいのでしょうか？著作権を明記せず、真偽不明の検索結果を使って何らかの方向性や戦略を見出した場合、その結果に責任をとれるのでしょうか？chat GPT導入を進めるのであれば、著作権問題処理の方法論と、責任の取り方を明確にするべきです。chat GPTにより検索の範囲は広くなり、検索内容に深みが出ますので、引用先や著作権および真偽を緻密に調査および明示するという条件が満たされるのであれば、学習や研究プロセスの中でのBrain storming 手段としてchat GPTは使えるかもしれません。これが、私が唯一建設的と考えるchat GPTの利用法ですが、最終的には自ら思考力を駆使して考察しながら仕事を進めるべきです。
人類は過去の繁栄の裏で、新たなテクノロジーの負の側面を覆い隠しあるいは後追いし、取り返しのつかないものも生み出し、人類自身がコントロールできずにいます（核爆弾！、二酸化炭素排出による地球温暖化！）。新たなテクノロジーが人類の未来社会に何をもたらすのかを予想するのは難しいと言う人がいますが、私に言わせれば、過去の人類はテクノロジーの進化に舞い上がり、負の側面を真剣に考えようとしなかっただけと思います。今後も未知の新たなテクノロジーが発明されるでしょうが、人類は新たなテクノロジーを生み出すプロセスの中で、その負の側面を開発と同時に徹底的に考察し、先んじて対策を練っておくくらいの英知を持っても良い時期ではないでしょうか？ 地球上で、「無秩序な人類の繁栄」を願っている「人類以外の生物」はいないことを、改めて認識するべきと思います。
異論、反論、お待ちします。