国分寺街道を府中方向に南下してゆくと、国立大学の東京農工大の農学部キャンパスがあります。
家畜などもいる広大なキャンパスですが、国分寺街道沿いに、無印良品とコラボしたキャンパスがあり、「イノベーション共創拠点」と銘打った建物が出来ていることに気づきました。
こんな工事いつやっていたのかと思いましたが、アメリカ パロアルトにあるスタンフォード大キャンパスを彷彿させるような良い雰囲気のところです。
昨年、ウクライナ当局を狙ったとされるLAMEHUGというマルウェアがある。これは、これまでの攻撃とは一味違うもので、生成AIに「***情報、XXX情報などを収集しその結果を〇〇〇テキストファイルに追記するコマンドを生成せよ」のようなプロンプトを投げて不正に奪取するコードを動的に作成・実行させる類のものです。
そういう目的用のLLMはアングラの世界でいくつか知られており、アリババクラウドにあるQwenなどが知られている。(名前からしてどこの国か明らかですね)
生成AIの弱点の1つに、生成されるプログラムの精度、バラつきがあり質のよくないコードを吐き出されるのが問題になるらしく、上記のQwenはコード作成に特化し、その”ゆらぎ”が少なくなるような設定パラメータまであるという。
今のところの対策は、こういう動きをするマルウェアをシグネチャで検知するようなもの程度なので、容易にかわし技を考えつきそうです。