Aが正則でない場合
フィボナッチ数列の場合、Aは正則です。
が、ちょっと脱線して、Aが正則でない場合を考えるに、
X = A Xを繰り返すことで、XはAの固有値が最大になる固有ベクトル(の倍数)に近づいていきます。(べき乗法)
。。。って、放送大学 「数値の処理と数値解析('14)」でおそわりました。
(次の再帰呼び出しの前に、Xの絶対値を1になるように割ってやると取り回しがよい )
終了条件を考えるには、(再帰の回数がおよそ 10回程度よりも大きければ)入力ベクトル = 点 X を起点とし、Aの固有ベクトルの方向へと伸びる直線と、 終了条件が交差する点を考えてやるとよさそうです。
終了条件を 平面とか球で考えると、3DCGにおける、レイトレーシングに似てるような。
まだ、実際のコードでは検算してませんけれども。