・・・・・・・っということで、ClaudeMythosの持つリスクは、賢すぎるAIを賢くない人間が制御できるか？という領域に入ってきたと感じます。（ちなみにMythosは神話という意味です。）
AIであるチャットGPTにAIのリスクについて質問するのは矛盾を感じましたが、回答はこうです。
危険はある。ただし「AIが悪意を持つから」ではない。
人間の側の構造と使い方が、危険を生む。
となれば、AIに悪意という神話を見るのは人間の悪意が投影されたものと考えるべきなのです。
問題は、AI側ではなく人間側にあるのです。
だから危険なのです。
人間は道具を使ってきました。
しかし、今は道具に人間が使われる状態が出現したのです。
そんなバカなと思われるかも知れませんね。
パソコンを自在に使っているつもりでも、その作動原理を理解している人いますか？
ボタンひとつで洗濯が終わるし、ご飯も炊けます。
その間の原理を知っていますか？
そうなのです、使っているけれどその中身はブラックボックスなのです。
アメリカがシャカリキになってTikTokやHuaweiのスマフォを使うなと言っているのは、中国が情報を抜き取っているかも知れないからなのです。
アメリカの戦闘機にもブラックボックスがあって、触れません。
利用する者にとって中身が分からないのです。
生成AI,ClaudeMythosのレベルに至っては、一握りの優秀な人間でなければ理解できないのです。
そのうちに、人間の誰も分からないレベルにAIが進化しても不思議ではないでしょう。
すると、人間はClaudeMythosに対して実態以上に“人格”や“神格”を与えてしまうのです。
SF映画で繰り返し取り上げられるテーマですね。
おっと、まだつづく。
