「旅行の予約、メールの整理、プログラムの作成──AIエージェントが人間の秘書や助手として活躍し始めた。しかし指示を誤解して想定外の行動を取ったり、ハッカーに悪用される危険性、さらには職への影響も懸念される。次に起こることへの備えはできているのだろうか。

・AIエージェントが人間に代わって現実世界で自律的に行動する時代が到来

・指示の誤解釈や悪用リスクで「人類を賭けたロシアンルーレット」状態

・労働市場の大変動と権力者への過度な権力集中も懸念される」

「いわゆる「AIのゴッドファーザー」の1人に数えられるモントリオール大学のコンピューター科学教授、ヨシュア・ベンジオも、そのようなリスクを懸念する1人だ。しかし、ベンジオ教授が最も懸念しているのは、LLMが自分自身の優先順位や意思を発展させ、それらに基づき、現実世界における能力を使って行動するようになる可能性である。チャット・ウィンドウの中に閉じ込められたLLMは、人間の助けなしに大したことはできない。しかし、強力なAIエージェントは、自分自身を複製したり、安全措置を乗り越えたり、シャットダウンされるのを防いだりできる可能性がある。そこから、やりたいことを何でもするようになるかもしれないのだ。」

Patrick Leger

小松　仁

「MIT Tech Review: 何でもやってくれるAIエージェントに、あなたは「鍵」を渡せま