При исследовании дискретного спектра,получаю

,
Это бессмысленная запись -- слишком много

.
Когда исправите -- просто тупо решайте это рекуррентное уравнение. Даже не решайте (явное решение здесь совсем не нужно, хотя и возможно), а просто оценивайте поведение последовательности. Вам ведь что нужно?... -- узнать, при каких спектральных параметрах эта последовательность ведёт себя хорошо, а при каких плохо. Вот и узнавайте.
Правда, потом останется ещё вопрос про границу спектра. Но это лучше уже потом.
-- Ср май 29, 2013 11:33:34 --Да, и у Вас там ещё сбой в нумерации, хотя это и не существенно.