ЁжЧто-то как-то сумбур немного, если честно. Как минимум не совсем понятно, на какой области поставлена задача (где граничные условия-то?) и что ещё за
, которое больше единицы. Короче, посоветую для начала литературу, как вы и просили:
1. А.Н. Тихонов, А.А. Самарский: "Уравнения математической физики".
2. В.С. Владимиров: "Уравнения математической физики".
Почитайте главы по методу Фурье (или методу разделения переменных, что то же самое) и по задаче Штурма-Лиувилля как минимум. Примеры решения разного рода задач можете найти, например, в книге А.Ф. Горюнова: "Уравнения математической физики в примерах и задачах".