ChatGPTには言葉の「意味」が分からない カギは「記号接地」：朝日新聞デジタル (asahi.com)
「ChatGPTには言葉の「意味」が分からない カギは「記号接地」」（今井むつみ慶応大学教授 朝日新聞デジタル）がちょっと面白い。
「膨大な情報を学習して文章を生み出す対話型AI（人工知能）は、ともすれば人を超える万能の道具にも思える。しかし、認知科学が専門で人の言語学習に詳しい今井むつみ慶応大学教授は、AIは言葉の「意味」を全然分かっていないし、考えてもいない、とその限界を明かす。5月に出した「言語の本質」（秋田喜美・名古屋大学准教授との共著、中公新書）で「記号接地」という概念から言葉について考察した今井さんに、人間とAIの違いについて話を聞いた。」
「一言でいえば、「次の単語予測機」です。単語や文の「意味」を考えて文章を生成しているわけではない。チャットGPTは、最初に膨大な言語データを読み込み、高速で情報処理をして、言語データの統計的な規則性を抽出します。加えて、人がどんな文章を好むのかというデータと掛け合わせ、文章を生成していく。
だから、単語一つ一つの意味は全然分かっていないし、人間の問いかけの意図も考えていません。でも、次の単語予測は非常にうまく、英語でも日本語でも、すごくスムーズで自然な文章を作りますよね。説得力もあるようにみえる。チャットGPTを最初に使ったとき、大変な衝撃を受けました。」
「メロンの「意味」は辞書の記述を引っ張ってきても分かりません。味、香り、口の中のねっとりした感覚などが一緒に思い出されてはじめて「意味が分かった」と思えませんか？ 認知科学の世界には「記号接地」という概念があります。言葉の意味を真に理解するには、現実世界から受け取る具体的な情報について、身体的な感覚を持つ必要があるという考えです。
視覚と聴覚に障害があったヘレン・ケラーは、冷たい水に触れながら「water」という指文字を教わったとき、初めて、その文字が「手のひらに流れる冷たい液体」を意味することを理解し、存在する対象それぞれに異なる名前があることを悟りました。」
「赤ちゃんや幼い子どもが言葉を話し始めるときには「オノマトペ（擬音語や擬態語など）」が重要な役割を果たすのですが、これも記号接地ができているから出てくる言葉です。ボールを投げたり、ゴミを捨てたりすることを「ポイ」などと言いますが、言語を習得していない子どもでも、「音の感覚」に似ているものが、その行為を指す言葉だと、うっすら感じ取っている。こうして現実世界と言葉を結びつける「記号接地」をしながら、言語を習得していくのです。
オノマトペからも分かるように、人は、赤ちゃんのときから意味を考えないと言葉を発したり学習したりできない生き物で、そもそも、学習の仕方もチャットGPTとは正反対です。チャットGPTの「学習」は、大量の情報を読み込ませることからスタートしますが、赤ちゃんにそうした情報処理の能力はありません。とても狭い間口に入ってくる限られた情報のみを処理し、わずかな知識を作る。その知識を使って、新たな情報を処理したり、前に作った知識を再分析して修正を加えたりしながら知識体系を大きくしていきます。この過程は、もともとある知識に「似ている」という「推論」の感覚を足がかりに行われます。
しかも、新しい知識は断片として記憶するのではなく、必ずその学習に使われた知識と関係づけられ、「知識のボディー」に統合されます。その結果、知識の体系が雪だるま式に成長していくのです。暗記するだけとはまったく違う。こうした人の学習方法は言語習得分野の学術用語として、「ブートストラッピング・サイクル」と呼ばれています。」
「AIに依存せず、限界があることを理解した上で使うことが大切だと思います。たとえば、職場の部下だと思って使うのがいいのではないでしょうか。何でも部下に丸投げしていたら、良い仕事はできないですよね。部下の仕事には上司が責任を持って関わり、コミュニケーションをとることが必要だと思います。AIの使用も同じです。
英語の文章を書くのにチャットGPTが使えるか試してみたのですが、かなり有効です。しかも、チャットGPTと対話を重ねると、文章の質が上がるのです。良い「プロンプト（指示）」が出せれば、AIも良い仕事をしてくれます。チャットGPTに出すプロンプトを試行錯誤し、良いプロンプトを作るスキルを熟達させることが大事だと言えます。
とはいえ、今のところ、AIは間違えます。まるで間違えていないみたいに、堂々と。だから、その誤りに気付くことができる知識や直観を養うことが重要です。そのためには、結局のところ、経験に自分の知識を接地させ、知識の体系を自分で成長させる「学びかた」をしっかりと身に付けておくことが必要です。チャットGPTを、答えを教えてくれる機械ではなく、たまに間違える部下だと思えば、いい付き合いができるのではないでしょうか。」
小松 仁