昨年、ウクライナ当局を狙ったとされるLAMEHUGというマルウェアがある。これは、これまでの攻撃とは一味違うもので、生成AIに「***情報、XXX情報などを収集しその結果を〇〇〇テキストファイルに追記するコマンドを生成せよ」のようなプロンプトを投げて不正に奪取するコードを動的に作成・実行させる類のものです。
そういう目的用のLLMはアングラの世界でいくつか知られており、アリババクラウドにあるQwenなどが知られている。(名前からしてどこの国か明らかですね)
生成AIの弱点の1つに、生成されるプログラムの精度、バラつきがあり質のよくないコードを吐き出されるのが問題になるらしく、上記のQwenはコード作成に特化し、その”ゆらぎ”が少なくなるような設定パラメータまであるという。
今のところの対策は、こういう動きをするマルウェアをシグネチャで検知するようなもの程度なので、容易にかわし技を考えつきそうです。
