И после редактирования условия, на мой взгляд, с поверхностью что-то не то. [Какая поверхность задаётся указанными Вами соотношениями?]
Скорее всего, это упражнение не на формулу Остроградского — Гаусса. См. в конспекте или рекомендованном учебнике формулы сведения поверхностного интеграла к двойному.
i |
После того как найдете формулы и проверите условие, приведите свои попытки решения. |
Добавлено Если ни конспекта, ни рекомендованного учебника нет под рукой и в сети он не доступен, сведение поверхностного интеграла второго рода к двойному можно посмотреть в книге
Фихтенгольц Г.М. Курс дифференциального и интегрального исчисления, том 3. — М.: Наука, 1966 (
djvu)