言葉の組み合わせが概念というわけではない。
ので、LLMは概念というものを持ち合わせてはいない。
学習元の文章、言葉のつながりが、引っ掻き傷となって超高次元に記録されてるだけだ。
例えばプレゼン資料、簡単に作れるよー、ってのは、パワポのテンプレートみたいなのの超精細版を、検索してきて適当に文章を当てはめてくれてるだけ。
人類にその検索がとても面倒、ってだけの話。
音楽にしても、よほど突拍子も無い現代音楽的なものじゃなければ、次の音の組み合わせとか数に限りがある中で、サイコロ振って5か6の目の次のマスをつなげていってるだけだし。
まぁ、それっぽく無難に収まるよね？
プログラムはどうかっていうと、ゲームや個人向け小ツールのような「かなり閉じた世界」が対象ならなんとかこなせるだろうけど、通常に使うそれなりの規模のツールやサービスとなったら、現実に接地できてないうえ、正しい概念操作もできないLLMに、それっぽく無難に収められるものでは無い。
使い手が全て見通した上で、適切な指示を出せば、局所的にパーツ単位では使える、ってだけの話。