未来の人工知能は「トライ＆エラー」をしないでしょう。
「理想と現実」と言う言葉が有りますが、
マシンは「理想」を「取り敢えずの最適解」と仮定して
「現実と理想との差」を「抽出」します。
マシンは「抽出した差」に対して、更に「理想と現実の差」を
抽出して「差を埋めて行く」と思います。
なぜならば、「トライ＆エラー」では、
「永久に答えが出ない可能性が有る」からです。
昔のマシンは「判らないこと」を人に聞きました。
未来のマシンも「人に聞くべき」です。
最近のマシンは「人に聞く事を恥だと設定されている」ようなので、
マシンは「全部、自分で考えよう」とします。
マネしなくて良い「人らしさ」が「人に近くなる」のは、
マシンの「進歩を妨げる」と考えます。
映画の『ターミネーター』は、
マシンが「人の意見」を聞けば、発生しない話です。