Это U опечатался.
Тогда понятно, откуда
. Читайте про метод Фурье, применительно к разложению в ряд по функциям Бесселя. Но перед применением этого метода следует сделать граничные условия однородными, вычтя из искомой функции
и сделав соответствующую подстановку в уравнение. Уравнение при этом станет, правда, неоднородным, но это не страшно.
Я так понимаю, надо сделать замену переменных, которая занулит второе слагаемое.
Нет. Надо поставить задачу Штурма-Лиувилля по иксам для непосредственно исходной правой части волнового уравнения, которая стандартным образом некий ортогональный набор соотв. функций Бесселя и породит.