読者の方からリクエストがありましたので，
大学入試史上 最も難しい問題を紹介します。
1998年東大後期入試，数学の問3です。
数学オリンピックの難問レベル，
大学の数学科の学生の夏のレポート課題並です。
ちなみに，私はこの問題を解くのに2日かかりました。
詳しい問題は，河合塾のHP
http://hiw.oo.kawai-juku.ac.jp/nyushi/honshi/98/problem.cgi/t2/math?page=2
（HPの解答には不十分な点があります。）
最難問は，問3の（2）
その部分を，表現を変えて分かりやすく伝えると
のようになります。
【解説】
実験をしてみると
（ア） nが3の倍数のとき と nが3で割って1余るときに
○○・・・○
は可能で
（イ） nが3で割って2余るとき は不可能
ということが予想できます。
（ア）の証明は帰納法を使うとできます。普通の発展問題レベルです。
n＝1のとき
○ は出来ている
また，n＝3のとき
○ の右端につなぐ → ●○ の左端につなぐ → ○○○ 完成
n＝3m＋1 また 3m のとき
○○・・・・○ ができると仮定する
n＝3m＋4 また 3m＋3 のとき
○○・・・○ 「右端につなぐ」
→○○・・・●○ 「右端につなぐ」
→○○・・・●●○ 「●●の間に入れる」
→○○・・・○○○○
したがって，nが3で割って1余る または 3の倍数のとき
○○・・・○ は可能である。
（イ）の証明が難関です。
一般的に「不可能」の証明は難しいものです。
私は，このようなパズル的な問題の場合 「不変量はないか」 と考えます。
「不変量」とは，操作を何回しても変わらないものです。
例えば，○を1個加えて，○が●に，●は○に変化するので，○と●の個数の差の変化量は必ず奇数になります。しかし，この不変量では問題が解決しません。
しかも，操作が2種類あって，その操作の順序もバラバラです。
解法は3つのステップで行います。
①「操作2，操作1の順」 と 「操作1，操作2の順」 も同じ結果になる。
したがって，操作の順番は 操作1，1，1，・・・，1，操作2，2，2，・・・，2 と決めても一般性を失わない
② 操作1終了時点では必ず
○●●・・・●○●●・・・●○ または ○●●・・・●， ●●・・・●○
（ただし，●の並びは0個のこともある。）
③ ○＝120°回転変換の行列W，●＝x軸対称変換の行列B に置きかえたとき，
操作2を行っても，行列の積の値は「不変」である。
したがって，n＝3m＋2のとき
○○○・・・・○ になるためには
行列の積が
WWW・・・W＝W^2 （∵W^3＝E単位行列）
ところが，操作1が終了した時点での行列の積はW^2になりえない
∴n＝3m＋2 のとき ○○○・・・○は不可能である。
＜①②③それぞれの証明＞
① X，Y，Zは○か●， x，ｙ，zはそれぞれX，Y，Zの逆の色とおく
・・・XY・・・Z に操作2→1 を行ったとき
・・・x○y・・・Z → ・・・x○y・・・z○
・・・XY・・・Z に操作1→2 を行ったとき
・・・XY・・・z○ → ・・・x○y・・・z○
・・・XY にに操作2→1 を行ったとき
・・・x○y → ・・・x○Y○
・・・XY に操作1→2 を行ったとき
・・・Xy○ → ・・・x○Y○
∴「操作2→1」の順番 は 「操作1→2」の順番に置きかえても結果は同じである。
操作の順番を数列にして ，21 の並びを 12 に変更していくと必ず2が後ろに1つずれるので
任意の数列は 11・・・122・・・2 の形になる。
②操作1のみをおこなうと
スタート ○
1回後 ○●， ●○
2回後 ○●●，○○○，●●○
3回後 ○●●●，○●○○，○○●○，●●●○
4回後 ○●●●●，○●●○○，○●○●○，○○●●○，●●●●○
以後，端に○を加えても，内部の○は増えることはないので
操作1終了後は
○●●・・・●○●●・・・●○ または ○●●・・・●， ●●・・・●○
（ただし，●の並びは0個のこともある。）
になる。
③操作2での変化をすべて列挙すると
○○→●○●
○●→●○○
●○→○○●
●●→○○○
ここで，行列W(120°の回転） （W^3=E単位行列）
-1/2 √3/2
√3/2 1/2
行列B（x軸対称) （B^2＝E）
1 0
0 -1
を考え，○＝W， ●＝B と置き換えると
操作2の4つのパターンに全て附合する
WW＝BWB
WB＝BWW
BW＝WWB
BB＝WWW
○が3m＋2個並ぶ列を行列の積に置き換えると
WWW・WWW・・・・WWW・WW＝W^2
一方，操作1終了後のパターンを行列の積に置き換える
B^2＝Eより
○●●（偶数個）・・・●○●●（偶数個）・・・●○＝W^3＝E
○●●（偶数個）・・・●○●●（奇数個）・・・●○＝(WWB)W＝（BW）W＝WB
○●●（奇数個）・・・●○●●（偶数個）・・・●○＝W（BWW）＝W（WB）＝BW
○●●（奇数個）・・・●○●●（奇数個）・・・●○＝W（BWB）W＝W(W)W＝E
○●●（偶数個）・・・●＝W
○●●（奇数個）・・・●＝WB
●●（偶数個）・・・●○＝W
●●（奇数個）・・・●○＝BW
いずれも，W^2に等しくない
したがって，操作2を何度行っても，W^2になることはない
∴3m＋2個の○が並ぶ列は実現不可能である。
注，行列が出てきた思考過程は
不変量を作りたいので，○と●の個数の多項式や，複素数への置き換えを考えたがNG。
→○●の並び順まで考慮に入れなければならない
→積の順によって結果が変わる行列が適当
→3の倍数がキーなので，3乗して単位行列になる120°回転行列に注目した。
→●●＝○○○ が必要なので，●として180°回転行列を考えたが，積の交換ができるのでNG
→●としてx軸対称の行列を考えた。