Обычно задача формулируется для областей довольно общего вида

В любом учебнике по математической физике. В смысле, как быть? Если подразумевается, что для прямоугольника есть метод Фурье, то в общем случае никак. Есть другие методы численного нахождения решений: конечных элементов, потенциалов...