Я получил окружность

1) Простите, я не понимаю, как у Вас на плоскости

получается область, ограниченная окружностью

.

Просто подставьте

из второго уравнения в первое.
Геометрически понятно, что в полученное уравнение

и

войдут с разными коэффициентами, ведь диск расположен наклонно к плоскости

, и его «тенью» не может быть круг, хотя сам диск — круг.
2) Нуль вряд ли получится, поскольку

всюду в области интегрирования.
3) При переходе (уже на плоскости

) от интеграла от формы к обычному интегралу от функции может измениться знак, опять же, в зависимости от ориентации.
4) Смысл картинки с обходом поверхности по границе понятен? Полчаса искал подходящую картинку.

5) Повторю вопрос: К какой точке поверхности (полусферы) относится нормаль, данная по условию?