我が部署に4人の新入社員が配属された
これから1年間はチューター制度で、先輩社員がマンツーマンで付き優しく見守る
これからカルガモの行列のようになるのだ
さて、そんな折世間では「最強AIが」とか「銀行口座が０に…」などとうそぶいている
何があったかを簡単に説明したい
先ずですね、アメリカにアンソロピックと言うAIの研究・開発を行う会社があって、特にクロードシリーズは高機能なコードが書けると評判でした
政治的な絡みからchatGPTから、クロードに乗り換えるユーザーも多くなっていたんですな
で、次のモデルの「ミュトス」のテスト中に大変なことが起きたわけです。
・27年間見つかっていなかったファイアウォールの脆弱性を探してしまった
・500万回もテストして見つけられなかった小さなバグを一瞬で発見
・17年見つけられなかった脆弱性の穴を突き、実際に悪用した。（悪用するよう命令されていた）
実に2週間ほどで数千件に上る脆弱性を見つけたという…
そのためアンソロピックの立場は明確で一般にはすぐに公開しないとした
考えてみれば明らかで、これは悪意のある者の手に渡ってしまえば最強の「矛」になる
その前に「盾」が必要だが、さて…同じ盾で防げるのか？
そのため、今になって金融関係や政府界隈が「口座が…」となっているわけ
スタバ凄い人がいっぱいだったのでドトール
本来、我々のインフラにはソフトウエアが介在する。で、多かれ少なかれ、開発者も見つけられない脆弱性がある。
それを見つけましょうと言うのが、このミュトスの意義だったが余りにも高性能すぎた
そして、自ら悪意ある攻撃手順まで組み立てそして実行できることに、その危険性がある
こりゃアレだなAIつくる時は「ドジ」なAI作る必要があるな