Обычно задача формулируется для областей довольно общего вида  

  В любом учебнике по математической физике. В смысле, как быть? Если подразумевается, что для прямоугольника есть метод Фурье, то в общем случае никак. Есть другие методы численного нахождения решений: конечных элементов, потенциалов...