...
Если подставить сюда 

 вместо 

, а вместо 

 — Вашу область (

 — граница области), то должно получиться, вроде бы, то, что Вам нужно.
Вычисления по этим формулам будут довольно громоздкими. Тут лучше, наверное, использовать  только теорему Гаусса-Остроградского для плоскости 
![$$
\int\limits_G
 \left(
  \dfrac{\partial f_x}{\partial x}
  +
  \dfrac{\partial f_y}{\partial y}
 \right) 
\,\mathrm{d}x\mathrm{d}y
=
\oint\limits_{\partial G} 
\left[
 f_x(x,y) \,\mathrm{d}x + f_y(x,y) \,\mathrm{d}y
\right]
$$ $$
\int\limits_G
 \left(
  \dfrac{\partial f_x}{\partial x}
  +
  \dfrac{\partial f_y}{\partial y}
 \right) 
\,\mathrm{d}x\mathrm{d}y
=
\oint\limits_{\partial G} 
\left[
 f_x(x,y) \,\mathrm{d}x + f_y(x,y) \,\mathrm{d}y
\right]
$$](https://dxdy-04.korotkov.co.uk/f/f/9/7/f97fe39c229316caa1cca427a996f41682.png)
(а в тех формулах, которые я выписал выше по ветке, кроме этой теоремы использовалось еще кое-что). Чтобы получить представление

через интеграл по границе области достаточно найти такие функции 

 и 

, чтобы

Очевидно, что в качестве таких функций можно взять

Тогда
![$$
\int\limits_G
 \cos (2\pi x) \cos (2\pi y)
\,\mathrm{d}x\mathrm{d}y
=
\dfrac{1}{4\pi}
\oint\limits_{\partial G} 
\left[
 \sin (2\pi x) \cos (2\pi y) \,\mathrm{d}x
 +
 \cos (2\pi x) \sin (2\pi y) \,\mathrm{d}y
\right]
.
$$ $$
\int\limits_G
 \cos (2\pi x) \cos (2\pi y)
\,\mathrm{d}x\mathrm{d}y
=
\dfrac{1}{4\pi}
\oint\limits_{\partial G} 
\left[
 \sin (2\pi x) \cos (2\pi y) \,\mathrm{d}x
 +
 \cos (2\pi x) \sin (2\pi y) \,\mathrm{d}y
\right]
.
$$](https://dxdy-02.korotkov.co.uk/f/d/3/7/d370103b60e1ae68dacaa6e6fd0645a682.png)
Добавление. 
Только сейчас увидел, что это в точности совпадает с одним из вариантов, 
предложенным Sender'ом (хотя там была использована не теорема Гаусса-Остроградского, а теорема Стокса).