Надо так понимать, что Ваша задача трехмерная? Тогда вот схема разделения переменных.
Пишите оператор Лапласа в сферических координатах (в двумерном случае все аналогично - но попроще - используется полярная система координат вместо сферической) [url]http://ru.wikipedia.org/wiki/Оператор_Лапласа[/url]:
Для разделения переменных подставляете в свое уравнение "анзац"
и делите левую и правую часть на
. Получаете сумму трех функций одной переменной (каждая от своей переменной
) тождественно равную константе:
. Отсюда следует, что каждая из этих трех функций равна константе:
,
,
.
Решаете каждое из этих трех получившихся обыкновенных дифференциальных уравнений. Для первого из них используете граничное условие
. Учитываете, что функции
и
периодические (
,
). Кроме того для первого и второго уравнения используйте условие конечности решений в точке
.
Разбираетесь с возможными вариантами значений
,
,
(с учетом
).
В итоге для
и
получаются дискретные наборы функций (в первом случае, связанные с полиномами Лежандра, а во втором - более простые) - сферические функции ([url]http://ru.wikipedia.org/wiki/Сферические_функции[/url]), а вместе с
- шаровые функци.