MIT Tech Review: AIエージェント登場前夜、いま考えるべき倫理的問題点とは？
「MIT Tech Review: AIエージェント登場前夜、いま考えるべき倫理的問題点とは？」がちょっと面白い。
「ジェームス・オドネル[ James O'Donnell ]
米国版 AI／ハードウェア担当記者
自律自動車や外科用ロボット、チャットボットなどのテクノロジーがもたらす可能性とリスクについて主に取材。MITテクノロジーレビュー入社以前は、PBSの報道番組『フロントライン（FRONTLINE）』の調査報道担当記者。ワシントンポスト、プロパブリカ（ProPublica）、WNYCなどのメディアにも寄稿・出演している。」
「人間のようにふるまって、さまざまなタスクを自律的に実行するAIエージェントが、遠くない将来、登場しそうだ。それに備え、今から検討しておくべき倫理的問題点とは？
・人間に代わってタスクを実行、行動をシミュレートできるAIエージェントが登場
・人間の人格や行動をAIエージェントが模倣することが容易になっている
・ディープフェイクの悪用や人間との区別の問題といった倫理的懸念が浮上」
「AI（人工知能）エージェントによって、その状況が変わると期待されている。AIエージェントは、スクリプトと目的を持ったAIモデルだと考えることができ、以下に示す2つのタイプのうちどちらかの形で提供されることが多い。
1つは、ツールベース・エージェントと呼ばれるものだ。（コーディングではなく）自然な人間の言語を使って指導することにより、私たちのためにデジタル・タスクを完了させられる。
もう1つのタイプのエージェントは、シミュレーション・エージェントと呼ばれるものだ。こちらは、人間に似せて振る舞うように設計されたAIモデルと考えることができる。」
「そのようなツールが安価で簡単に作れるようになれば、新たに多くの倫理的な懸念が浮上するだろうが、特に2つの懸念が突出している。
1つ目は、そのようなエージェントがさらに個人的で、さらに有害なディープフェイクを作成する可能性があることだ。
2つ目は、私たちはエージェントと話しているのか、それとも人間と話しているのかを知るべきかという、根本的な問題である。」
Sarah Rogers/MITTR | Photo Getty
小松 仁