ある事柄についてWeb上の文書で言及された言葉をまとめたものであって、そのある事柄自体を「理解」しているわけじゃなく、理解している人による解説を、言葉の繋がりをまとめた情報として持ってるだけ。
イメージ的には、形がわからない物体に対して、いろんな人がガンガン投げたボールの、どこは跳ね返る、どこは跳ね返らないというのを記録して、その物体はこういう形「であろう」的な話をしているのに近い。
んでもって、この投げられたボールの数が、どの物体、事柄についても、その形状がはっきりとわかるほどの量あるというわけではない。
この事柄とこの事柄を組み合わせて新しいものを創発するってのは、それっぽい模倣をでっち上げられるとしても、ありえないということだ。
これは、LLMは計算が苦手、というのとほぼ同義だ。
LLMは構造を理解しない。
構造間の間接的な関係を大量に保持しているだけだ、ということ。
なので、システム構築に使う場合は、構造を理解でき、構造を理解した人間が、構造化抽象化階層化しなければ、部分と部分の関係という情報が爆発的に増え、急速に認識不能な統治不能なブツに育つ。
それでなくても、LLM を使ってでっち上げることしかできなかった、構造を理解できない人間がこの自体を収拾できるわけがない。
わかるかなぁ？