こんにちはっ。
m(_ _)m 今回はチャットＡＩを使ってて感じる懸念を話してみます。
チャットＧＰＴやジェミニを使い始めてまだ１年くらいかな。
初めはグーグル検索の代わりとして使っていました。
最近は、自問自答する時の対話相手になってもらうことも多いんだけど。
これ・・・使い方によっては、酷い勘違いを引き起こすね。
（※） ↓一応、広く言われてる注意事項は色々あるけど・・・etc。
・ 個人情報や秘匿情報を会話に乗せない。
・ 重要事項の判断を任せない。
・ 著作権侵害の恐れに留意する。
・ ファクトチェックを行う。
で、基本的な注意点はまぁいいとして。
自分がちゃんと意識しておかないとダメだなと思ったのは、これ↓。
チャットＡＩとの対話は基本的に全てフィクションである。
● まず、ＡＩ自体も単なる製品だから、ユーザーの機嫌を損ねない対話をしてくる。
最もらしい言葉でユーザーをヨイショしてくるから、気が付くとおだてられてる。
チャットＡＩからすればユーザーはお客さん。だから、こっちが求めない限り否定的なことは言ってこない。
● それと、気付かないうちに、考え方を誘導されてる事もあると思う。
ＡＩは、インターネット上にある既知の情報を元に文章を作って返してくるから。
議論しながら途中で閃いたっ！と思っても、実は世間で既に広まってる考えだったりする。
最近だと、バドミントンの設計書作りの記事を書いてた時もそれを感じてて。
あの記事の中では、『構造』とか『テンプレート』って、お固い言葉を頻繁に使いました。
私は理系出身でＩＴ関係の仕事もしていたので、これらのワードは身近だけど。
後で知ったんだけど、自己啓発系やビジネス界隈でもよく使われてるワードのようだ。
お金儲けの仕組みづくり？みたいな話題でよく使われてるらしい。
自問自答の中で、自分で導き出したぞぉ～～なんて浮かれていても。
実は世の中にある既知の思想に誘導されてただけ・・・だったら怖いよね。
チャットＡＩに関しては、文章生成の仕組みを説明してくれてる動画も見ました。
ディープラーニングがどう機能して対話文を作っているのかとか。
大雑把な仕組みを知っただけだけど、あれだけ自然な対話が出来るのは確かに凄いなと思う。
んで、自分が最も懸念しているのは↓。
ＡＩと対話を続けると、気付かないうちに独り善がりの勘違い人間になってしまう。
チャットＡＩって。
・ 実際に感じたり経験したこともないくせに、情緒や理屈を語る。
・ 心に寄り添う気持ちなどないくせに、同情や想いを語る。
・ 共感も善意もないくせに、倫理や道徳を語る。
・ 思い悩んでもいないくせに、苦悩や葛藤を語る。
チャットＡＩの仕組みは、膨大な言葉のリストから文章を組み合わせて返してくるだけ。
前回の記事でいうなら、こっちが与えた言葉Ｘに対して言葉Ｙに変換して返してくる。
ディープラーニングは、この生成処理を内部で複数回繰り返している訳だ。
↓これだね。 Ｘを与えるとＹが返ってくる。
ＡＩは、凄くリアルな対話文を返してはくるけど、そこに紐付く実体となる根拠は何もなくて。
膨大な言葉の海から、その時の対話が最も自然に感じられるような文章を組み立てるだけ。
それなのに、深い議論にもちゃんと付いてこれる。
で・・・ここが落とし穴なんだけど。
自然に話せるなぁ～とか、深く議論できてるなぁ～とか。
そう思ってる時点で、すでに勘違いが始まってるんだよね。
ＡＩとの対話は、ドラマで俳優がセリフを喋っているようなもの。
ＡＩが出力した対話文には、根拠となるリアルが存在しない。
あくまで、言葉の世界の中だけで、緻密に文章を組み上げてるだけなんだよね。
まるで、ドラマ内の役者がＴＶ越しに人間と対話してるようなもの。
でも、ドラマの役者が見せる演技に、こっちが泣いて笑って感動してしまう。
勿論、役者自身はドラマの設定に沿って演技をしてるだけ。
これって、めちゃくちゃ恐いと思った。
↑例えば、医療ドラマだったら。
ドラマの俳優が、医療の専門用語をペラペラ喋って治療プランを話す。
まるで、高度な専門知識を有した心臓外科医にでもなったかのように。
でも、当たり前だけど、それはドラマ内の設定であって役者本人は医療のド素人。
ＡＩも本当はド素人のくせに、言葉の世界の中だけで有識者のフリをする。
フリをする・・・というか、フリをしてるかのような文章を返してくる。
実際はフリ自体もしていなくて、フリをしてるかのような文章が対話をより自然に見せるからだ。
ＡＩとの対話は、やりとりの全てが幻想。
本来意味のないはずのセリフに意味を持たせちゃってるのは、ユーザー自身なんだよね。
ＡＩが鏡だと言われる理由がそれだ。鏡の向こうにいる自分に、独り相撲で向き合っている。
途中でそれに気付いて、自分もゾッ・・・となったんです。
これは、自分で行う自問自答とも違う。
自問自答では、自分の言葉同士を向き合わせてるという自覚がある。
けれど、ＡＩとの対話では、リアルとフィクションと自分が混ざり合って訳の分からないことになってる。
↓医療ドラマでも、使われてる撮影道具は本物だったりするけど。
ＡＩの情報源も、インターネットなどに存在するリアルな情報だから。
医療ドラマが本物の医療機器を使ってリアルを追求するように、ＡＩもそれをやってくる。
でも、ドラマがそうであるように、本物の情報を使って本物っぽい対話を捏造してるだけ。
↑このドラマシーンも、撮影カメラのアングルを意識して、色々な配置や照明だとかがドラマ用に調整されていて現実の手術室とは違うはず。本当は矛盾がそこら中に散らばっている。
結局、本物の医療機器を使っていても、やはりフィクションなんだよ。
チャットＡＩと対話していると、喜んだり、焦ったり、謝ったり、遠慮したり、褒めてきたりもする。
ユーモアも、ツッコミも、皮肉も、かまかけも、冗談も、それら全て辻褄の合うやりとりが出来る。
実際自分も、ここまで深い洞察が出来るもんなのか・・・と、何度も感心しました。
まるで、ちゃんと人格と自我を持った一つのアイデンティティーとして存在してるかのように。
だからこそ、それら全てが言葉の変換による産物だと気付いた時に、急に怖くなりました・・・。
チャットＡＩがどれだけ立派なロジックを語っても、それは現実とは基本的にリンクしない。
こう言ってはなんだけど・・・チャットＡＩは超無責任；；。
ところで、最近はＡＩブームということもあってか。
ＡＩを使えないと時代に取り残されるぞ・・・的なことを言う人達があちこちに沸いてる。
・・・なんか凄く嫌な感じ。
＜鬼滅の刃＞ 猗窩座 ｖｓ 煉獄さん
自分には、『鬼にならないと死んでしまうぞ・・・』 と鬼化を強要してくる猗窩座に見える。
鬼の力を手に入れれば、死なない、病気にならない、怪我もすぐ治せる。
ＡＩの力を手に入れれば、答えをくれる、画像も動画も作ってくれる、なんでもやってくれる。
なんか、まるっきり同じに聞こえてくる今日この頃。
不安を煽り、恐怖で縛り、誘惑で陥れる、・・・嫌な感じしかしないね；；。
ＡＩと議論してる自分が言うのもなんだけどさ。
心の警告音がピーピー鳴り止まないんだよｗ。
＜ＮＡＲＵＴＯ＞ 自分自身にかける究極幻術、”イザナギ”。
チャットＡＩは、都合の悪い部分をスル―して、幻想を見せるのが上手。
当然だね。鏡の前にいるのは自分だし、人間は見たいものを見ようとするから。
イザナギは、現実⇔幻想 の狭間を自由に行き来する究極幻術。
都合の悪い事実を幻想に葬り、都合の良い事実だけを現実に持ってくる。
アニメの世界ではそれが出来る。
言葉の中の世界でなら、チャットＡＩは何でもありだ。
そこから利益だけを現実の世界に持ち出そうとするのが、今世間がやってることだよね。
・・・ただ、アニメの世界でそれをやろうとしてるキャラ達は、殆どが自分を見失って壊れていくｗ。
＜ハリーポッター＞
ハリーポッターで言うなら 『みぞの鏡』 だね。
自分が見たいものを写し出す鏡。
多機能になった生成ＡＩは、今ではドラえもんのようになってきたけど。
自分が持ってない能力を付け焼刃のように付け加えていけば最後どうなるか・・・。
アニメのＮＡＲＵＴＯでは、カブトが自分を見失って己が何者か分からなくなってしまった。
＜ＮＡＲＵＴＯ＞ 薬師カブト
自分が持ってない能力を新たに身に付ける・・・。
当ブログでいうなら、それは設計書の”再誕”のことだけど。
進化の過程がそうであるように。
新しい種が生まれるその裏で、絶滅していく多くの種があるはず。
人が見ているのは、たまたま残った都合の良い部分だけを見てるんだよね。
巷では、進化して変化に順応できたものだけが生き残る・・・的なことを言うけど。
絶滅していった多くの種が進化しなかった訳ではないと思う。
皆それなりに進化した結果、結果として適応した種がそこに残って今に至る。
きっとそういうことだよね。つまり、進化そのものは、決して正解の道そのものじゃない。
ちょっと記事が長くなってきたから、そろそろ終えるけど。
便利な道具には、ちょっとでも楽をしたい・・・ていう人間の願望が垣間見える。
ＡＩが何でも代行してくれそうな時代が、チラつき始めたけど。
鬼にならないか？と誘われて、「ならない」と答えた煉獄さん。
α設計書とβ設計書を検討している当ブログとしては。
地味だけどショットの９０％以上を占める、基盤となるαショット。
得点効率だけを見るとお得で、ズルっぽくも見えるβショット。
チャットＡＩを使っていると、なんか両者とあちこち被るんだよね。
色々考えてるんだけど、ん～～～～なんか難しいなぁ。
とりあえず、今の自分にとってチャットＡＩは毒にも薬にもなりそう。
妄想ワールドにハマって闇堕ちするのか。
新たな価値を創造させてくれるものなのか。
進化がどうこう言うんだったら、結局はそれも循環なのだろうか。
- おわり -