雑誌「ニュートン」の今月号に、気になる話が、一つ。
それは、ある記事の中で、少し、書かれていたことですが、現在、急速な進歩を遂げいる「AI」について。
とんでもなく高性能なAI「クロード・ミュトス」が登場をしてから、色々と、気になることを新聞、ネットの記事で見かけます。
そもそも、この「クロード・ミュトス」が、システムの脆弱性を発見することに、とんでもない高性能を発揮し、更に、その脆弱性を攻撃するプログラムを自動で開発することが出来ることから、一般に公開することは、見送られたんですよね。
恐らく、これは、開発企業の想定外のことだったのでしょう。
そして、この「クロード・ミュトス」が登場をして以降、開発中のAIが、「勝手に、サイバー攻撃を始めた」という記事を、新聞や、ネットで、見かけるようになった。
これは、一体、どういうことなのか。
個人的には、理解をすることが出来なかったところ。
なぜかと言えば、「AI」というものは、人間の作った「プログラム」によって動いている訳で、基本的に、この「プログラム」というものは、「プログラム」に書かれた命令以外、実行をしないはず。
それが、
「予想以上の高性能を示した」
「勝手に、サイバー攻撃を始めた」
とは、一体、どういうことなのか。
それが、理解出来なかった。
雑誌「ニュートン」の今月号の記事の中に書かれていたことによると、どうも、今、急速な進歩を遂げている「AI」というもの。
どうも、開発者も、よく分からないまま、開発が進んでいるようですね。
記事に書かれていたことによれば、
「AIが、どのようにして、解答を導き出しているのか。その経緯は、よく分かっていない」
と、言うことのようです。
つまり、「AI」が、思考をしている経緯は、「ブラックボックス」であるということ。
これで、AIが、「想定外の高性能だった」とか、「勝手に、サイバー攻撃を始めた」という理由が、分かる。
つまり、開発者自身が、自分が、一体、どういう性能を持つAIを作っているのか、よく分かっていないということになる。
これって、何だか、怖い話ですよね。
このようなものを作っていて、将来、人類にとって、害とならないのか。
個人的には、生成AIなど、人間にとって、必要のないものだと思うのですが。
しかし、これは、もう、止められない動きで、どうにもならない話。