A = S λ S^{-1}
たとえば,

である.
これの何が嬉しいかというと, A をかけ算するのが簡単になる点である.

10回掛けてもあまりたいしたことではない.というのもλが対角行列なのでこの power は簡単だからだ.
A^{10} = S λ^{10} S^{-1}
かけ算が簡単になるとなぜ嬉しいかは, eigenvector を考えるのがなぜ嬉しいかと同じことである.eigenvectorはある行列の中の独立した basis であり,eigenvalue を使えば行列が一つのスカラ値で示されるというのが嬉しい.
しかし,ここでこの S 行列のカラムが独立していないとこのようにはいかない.それはS^{-1}が存在しないとこのこの式が成立しないからである.
ここで最初の私の疑問に戻る. eigenvalue λ が重解を持つ場合に,それは独立した eigenvector の数に関係しているかということである.これには実は名前がついている.
- Geometric multiplicity (GM): 独立した eigenvector の数
- Algebratic multiplicity (AM): eigenvalue の multiplicity
実はこれらには厳密な関係はない.(関係はある GM <=AM).
たとえば,4x4 の行列で AM が 3 の場合 (異なる λ の数は2), GM は2 になるかというとそうとは限らない.その例を示しておこう.

ところで,この S はちょっと特殊で Hadamard 行列と言う.以前,私はこの行列を求める話を書いた.この行列は symmetric で orthogonal な上に 1 と -1しかでてこないというすごい特殊なやつである.
また,単位行列自身もこのような例である.4x4の単位行列の固有値は λ= 1,1,1,1 であり,固有ベクトルは

の4つである.私はこれに気がつくまで一日かかってしまったが,Marcと話をしていたら,彼は最初の私の質問で単位行列の例を挙げてきた.
ただ,一般の場合には一つの λ の値に対して一つの eigenvector が対応するというのが普通だと今でも思っている. AM と GM の厳密な関係というのはあるのだろうか.独立した eigenvector の数というのは A - λ I のnull space の次元であるが,これは AM とどうかかわってくるのか.もう少し勉強しないといけない.
参考文献:
Gilbert Strang, Introduction to Linear Algebra, 4th Ed.