Тут

следует интерпретировать как коэффициент, независящий от

. Переобозначьте его, скажем, как

, чтобы было спокойнее. Когда Вы это сделаете, то обнаружите, что имеете дело с обыкновенным рекуррентным соотношением вида:

. Решать его хоть методом характеристического уравнения, хоть с помощью преобразования Лорана. Потом не забудьте снова

написать вместо

. Кстати, в результате решения получается система ортогональных на симметричном интервале многочленов вроде чебышёвской первого рода.