同時方程式の識別問題は、要するに連立方程式の係数(パラメータ)が一意に定まるかどうかという問題です。
これが分かりにくいと感じる原因の一つは、私たちが中学時代に習った連立方程式を解く際の思考パターンにあるのではないでしょうか?
例えば、連立方程式
という問題を中学時代の知識にしたがって解くと、
という解が得られます。
ちなみに、(1)、(2)式は構造型、その解である(3)、(4)式は誘導型に該当します。
私たちが中学時代に解いていたのは、係数a~dの値は分かっていて、その場合のxとyの値を求めるという問題でした(順問題)。
例えば、
の解は、
となります。
一方、私たちがいま問題にしているのは、xとyの値(解)のセットが観測値としていくつか得られたときに、そこから係数a~dの値を特定できるかという問題です(逆問題)。
どうも私は、連立方程式を目にすると、無意識のうちに順問題について考えてしまっていたために、識別問題に対する理解がなかなか進まなかったような気がします。
実は単純な回帰分析も、xとyとの関係をy=ax+bと想定し、x,yの複数の観測データから係数a,bを推測するという逆問題です。
統計学を勉強していてもよく感じるのですが、数式を目の前にして、いまそのうちの何を変数と考え、何を定数と考えているのかということを意識することが大事だと思います。
蛇足ですが、回帰分析の場合はy=ax+bという単一方程式を想定し、x,yに複数(例えば10個)の観測データセットを放り込んで、連立方程式(例の場合は10個)を作り、これらに最小2乗法を適用して逆問題を解くということになるのかな?(数学は結局こういう算数的理解が難しいと個人的には思います。)。