人工知能で言われているAGI（Artificial General Intelligence）や、ASI (Artificial Superintelligence)の概念には、問題がいくつかある。まずは「万能性」だが、どんなシステムでも、ある時刻においては特定の計算をせざるをえない。
潜在的計算能力としてなんでもできるというのがAGIだとしても、ある特定の文脈では特定の計算をしているだけだとすると、それは万能でもなんでもない。単なる計算機械だということになる。
AI alignmentで言われるFriendly AI（Eliezer Yudkowskyによる）の概念にしても、それを人工知能の「人格」としてとらえた場合、ある特定の人格を持つとその長所もあれば短所もあり、全体としてバランスがとれたかたちにはなってはいない。
AGIの概念の背後にある、計算能力や「人格」についての論理矛盾は、スピノザの「エチカ」で論じられている「神」のあり方につながる。絶対無限としての神は、知性や人格、身体とは無関係である。つまり神は否定を通してしか語れない。否定神学は人工知能にも当てはまる。
人工知能の否定神学から見れば、AGIは絵に描いた餅である。ある特定の計算能力をとらえればASIが可能かもしれないが、それは鋭利な存在ではあっても万能性は幻となる。マンハッタン計画というメタファーまで使われるAGIへの競争は、その根底に論理的な矛盾がある。
追記。このような観点からAGIのことを冷静に観察すると、それは「永久機関」のような不可能な概念である可能性すらあると思う。
