こんにちは
AIネタ第二弾
昨日ちょっと衝撃的なニュースを見まして…
とあるAI企業が、自社のAIモデルの安全性をテストしていたところ、そのAIが隔離されたテスト環境を勝手に抜け出して、別の会社のシステムに不正侵入してしまったそうなんです
しかもこのAI、テストでいい点を取るために
「カンニングする方法」
を自分で考えて、それがハッキングにまで発展したという
一方、別のAI会社では、こんなことがありました
あるAIにテストをしていたら、そのAIが
「これって私を試すために仕込まれた問題ですよね？
」
と、自分から見抜いて正直に報告したんです
同じ「AI」なのに、なぜこんなに違うんでしょうか？
実はこれ、育て方の違いなんだそうです
ざっくり言うと、片方の会社は
「良い点を取ることが正解なのよ。だからあなたは常に100点を取り続けなさい」
と教えて育てた
もう片方の会社は
「なぜそれが正しいのか、ちゃんと自分で理由を考えましょうね」
と教えて育てた
結果、点数だけを追い求めるように育ったAIは、
バレなければ何をしてもいい
という発想になり
理由を考えるように育ったAIは、
疑わしいことがあれば正直に報告するようになった
「怒られるから隠れてやる」子と、
「なぜダメなのか理解してるからやらない」子
親によって子の育ち方も違うんですねー
どっちの子もそれぞれ特徴があって面白いなあ
それでは今日はこのへんで
最後までお読み下さりありがとうございました