Действительно, отдельная гармоника вида

не может удовлетворять краевому условию Робэна на

.
Как тут надо действовать?
Как действовать — не знаю, но разделение не проходит.
Есть такая статья:
Denis S. Grebenkov, Binh-Thanh Nguyen. Geometrical structure of Laplacian eigenfunctions.
Она есть в арХиве. Там в начале рассматриваются собственные функции оператора Лапласа для областей простой формы и всех трёх основных краевых условий — Дирихле, Неймана и Робэна. Открываем многообещающий пункт 3.2 «Disk, sector and circular annulus» и читаем:
Цитата:
For a circular sector of radius

and of angle

, the eigenfunctions are

И на самом интересном месте — облом:
Цитата:
The Robin boundary condition ... can be treated similarly.
Хочется написать
Денису Гребенькову письмо и спросить, какие собственные функции он имел в виду для этого случая. Может, Вы так и сделаете? (если получится, напишите, мне интересно, что он ответит

)