Alik писал(а):
Не очень понимаю в чем состоит противоречие, если матрицы коэффициентов для каждого случая разные по определению.
Непонятно, чем здесь случаи различаются. Например, сдвигом индексов случай 3 можно привести к случаю 1 (и там и там единица в нижней компоненте правой части), но матрицы при этом у них разные...
Alik писал(а):
К жордановой форме нужно приводить каждую матрицу или уже их произведение?
Можно, конечно, каждую матрицу приводить к жордановой форме, но "возни" тогда будет больше. Проще свернуть все эти случаи в единое рекуррентное соотношение и исследовать уже только его.
Alik писал(а):
Почему будет работать трюк с "использованием" только первого и последнего членов рекурсии?
Компоненты "последнего" члена являются обычными функциями от первого члена и индекса (ну и элементов матрицы), а как искать предел функций - хорошо известно.