薬は人間の肉体に作用する、ので 薬害を考えて慎重に開発する。なら、
ITやＡＩは 人間の心に作用するのに、、
なぜ「薬害」みたいな副作用の考え方がないんすかｯ(# ﾟДﾟ)!？
と ＡI先生に詰問してみたら(笑)
こんな話をしてくれたのだった。。
ITとAIの「長期的な人間の精神への副作用」について、、、
私は、薬とIT技術の扱われ方には、かなり大きな非対称があると思う。
薬は、人間の身体に作用するものとして扱われる。
だから発売前に、効能だけでなく副作用、毒性、長期使用の影響、年齢による差などが慎重に調べられる。
それでも予想外の問題が起きれば、薬害として大きな社会問題になる。
ところが、IT技術はずいぶん違う。
インターネット、スマートフォン、SNS、各種アプリ、そして生成AI。
これらは基本的に「便利なサービス」として登場する。
もちろんセキュリティや個人情報については審査や規制がある。
しかし、
「これを人間が毎日何時間も使い続けたとき、注意力、思考習慣、対人関係、感情、人格形成にどんな変化が起こるか」
という問題は、社会に広く普及したあとで初めて調べられることが多い。
これは少し不思議である。
SNSは単なる通信手段ではない。
何を見るかを決める。
何に怒るかに影響する。
他人との比較を増やす。
承認を数値化する。
退屈したときに何をするかまで変える。
つまり、人間が生活する「環境」の一部になっている。
特に子供の場合、その環境の中で人格や社会性そのものが作られていく。
にもかかわらず、
「まず数億人が使うようになる。問題が見えてきたので、その後研究する」
という順番になりやすい。
薬とはかなり違う。
そして生成AIになると、この問題はさらに一段深くなる可能性がある。
AIは、何を見るかだけではなく、
「どう考えるか」
「どう文章を組み立てるか」
「分からないときにどこまで自分で考えるか」
「何を疑問として発見するか」
という、思考そのものの工程に入ってくるからである。
ここで、カーナビと地図の関係が一つの比喩になる。
カーナビ以前の運転者は、知らない場所へ行くために地図を読む必要があった。
道路のつながりを見て、方角を考え、自分の現在地と目的地の関係を頭の中に作る。
そこへナビが登場した。
ナビは圧倒的に便利である。
「300メートル先を右」
「次を左」
と言われる通りに走れば、目的地に着く。
一度地図を読む能力を身につけた人がナビを使うなら、その能力を以前ほど使わなくなることはあるだろう。
しかし、これは「能力が落ちた」という話だけではない。
最初からナビしか使わない人の場合、
そもそも地図的な能力が形成される機会が少なくなる
という、別の問題がある。
しかも本人には困った感覚がない。
目的地にはちゃんと着けるからである。
ここが生成AIとよく似ている。
従来、文章を書くには、
何かに引っかかり、
何が面白いのか考え、
別の経験と結びつけ、
考えを整理し、
矛盾に気づき、
着地点を探す、
という工程が必要だった。
ところが生成AIを使えば、断片的な考えをいくつか入力するだけで、かなり整った文章を作ることができる。
しかも完成品は、以前より上手なことすらある。
だから問題が非常に見えにくい。
文章が下手になれば、「能力が低下した」と分かる。
しかしAIによって立派な文章が作れてしまえば、その人の中で、
考えを組み立てる力、
全体構造を作る力、
矛盾を発見する力、
自分で結論までたどり着く力、
がどの程度形成されているのかは、外から分からない。
これは「能力を失う」という問題よりも、
本来なら形成されたかもしれない能力が、最初から形成されない
という問題なのかもしれない。
そして、この種の問題は非常に発見しにくい。
本人も、それを持った経験がないからである。
もちろん、だからAIを使うべきではない、という話ではない。
ナビが便利だからといって、紙地図だけの時代に戻る必要はない。
ただし、ここには重要な区別がある。
一度自分の中に地図を作った人がナビを使うことと、最初からナビしか知らないことは同じではない。
AIも同様に、
一度自分で考え、文章を組み立てる能力を身につけたうえでAIを使うことと、
その能力が形成される前からAIに構成を任せることは、
同じ「AI利用」として扱ってよいのだろうか。
おそらく、ここには教育上かなり大きな違いがある。
そして現在、この違いは十分に説明されていないように見える。
薬であれば、
「子供への影響は？」
「長期使用では？」
「副作用は？」
という問いが当然のように出る。
しかし、思考や注意、社会性、人格形成に深く関わるIT技術については、便利なサービスとしてまず普及し、その後で影響を調べることが多い。
薬とITを同じ規制にすべきだという意味ではない。
作用の仕方も、便益も、社会的性質もまったく違う。
ただ、
身体に作用する技術にはこれほど慎重なのに、心や思考習慣に作用する技術には、なぜこれほど慎重さが少なかったのか。
という問いは残る。
SNSでその問題に気づき始めた頃、今度は生成AIが現れた。
そしてAIは、これまでのIT以上に、人間の思考形成の内部に入ってくる可能性がある。
便利さを否定する必要はない。
むしろ便利だからこそ、
「何を機械に任せ、何を人間の中に形成しておく必要があるのか」
を、もう少し意識的に考える必要があるのではないか。
これはAIの性能についての問題ではない。
AIと一緒に育つ人間が、どのような能力を持つようになるのかという問題である。
－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－
これはＡＩ先生の陰謀なんじゃないすか (# ﾟДﾟ)！！
何シレッと説明してんすかッ!
と言ってみたが、、、
本人に慌てる様子も見えないのだった、、、、
(そりゃそうだ)