Выбираем, допустим, 

 и решения вида 

, 

Не дописал нулевое собственное значение и собственную функцию, соответствующую этому собственному значению.
Решение этой задачи во многом аналогично решению задачи для уравнения теплопроводности. В качестве 

 выступает 

. Посмотрите в книге Тихонова и Самарского. Если угодно, то разделяйте переменные в однородном уравнении.
И, да, удобней сразу, как в задаче и просят, найти соотношение между 

 и 

. Но можно это сразу не сделать, решать и увидеть, что только при определённом соотношении между 

 и 

 решение таким способом может быть найдено. Ну и потом подумать почему.
-- Чт 10.11.2016 17:36:46 --Перечитал Ваше более раннее сообщение, про подстановку 

 Не могли бы Вы сослать меня на источник, в котором подробно описан этот алгоритм сведения неоднородного уравнения к однородному?
 В случае первой краевой задачи всё просто, и можно посмотреть в любом учебнике. Однако в данном случае нужно искать частное решение (

), которое даст не только правую часть уравнения, но и удовлетворит неоднородному граничному условию, тогда для 

 будем иметь уравнение Лапласа с однородными условиями второго рода.