ClaudeMythosって?(その1) | so what(だから何なんだ)

so what(だから何なんだ)

人生のバックパッカーのブログです。
暇はあるけど体力と金と気力がない。
そんなお年頃。
68カ国で止まったまま先に進みません。(;^_^A

・・・・・・・っということで、片山財務大臣がClaudeMythos(クロード・ミュトス)について緊急会議を開いたというニュースにピンと来る人は、ぼくを含めてそれほど多くはないのでは?

 

調べてみたらとんでもない重大ニュースなのです。

 

ClaudeMythosはアメリカのAnthropic社が開発中のフロンティアAIの一つで、革新的な能力を持っているとのことです。

 

フロンティアAIって何だ?

 

単に回答を見つけるだけではなく、自律的に機能する能力を持たせたAIです。

 

これだけ聞いてもまだピンときませんよね。

 

あまりにも優秀なので、悪用される危険が問題となっているのです。

 

これまで何十年も発見できなかったプログラムのバグをあっという間に見つけたそうです。

 

そりゃ良いことじゃないかと思われるかもしれませんが、悪意を持ったものがこれを使ってハッキングすることが自在にできてしまうのです。

 

さらに驚くことに、与えられた難度の高い問題を解く過程で、どうやらClaudeMythosは法律を破り、人間が分からないように意図的にその痕跡を隠そうとしたらしいのです。

 

これを聞くと、AIが意思を持つというSFの世界になってしまうのです。

 

こりゃあマズイということで、一般へのプログラムの公開を中止しましたが、創設メンバーの12社に限って公開することにしたそうです。

 

もちろん全部アメリカの企業であることがミソです。

 

チャットGPTが登場したのはつい最近(4年前)で一躍AIが注目されるようになりました。

 

それがあっという間に人間が制御できないレベルまで達してしまったのです。

 

これを考えると、いくらアメリカがプログラムを秘密にしても、中国、ロシア、北朝鮮などが追いつくのは時間の問題でしょう。

 

片山さつき大臣が大慌てになるのはもっともなことなのです。

 

日本は機密防衛にはガードが甘いですから、金融業界は彼らの格好のターゲットとなってしまいます。

 

こんな社会を根底から覆すような重大ニュースがサラッと流れているのです。

 

長くなったので、つづく。