Я получил окружность 

1) Простите, я не понимаю, как у Вас на плоскости 

 получается область, ограниченная окружностью 

.

Просто подставьте 

 из второго уравнения в первое.
Геометрически понятно, что в полученное уравнение 

 и 

 войдут с разными коэффициентами, ведь диск расположен наклонно к плоскости 

, и его «тенью» не может быть круг, хотя сам диск — круг.
2) Нуль вряд ли получится, поскольку 

 всюду в области интегрирования.
3) При переходе (уже на плоскости 

) от интеграла от формы к обычному интегралу от функции может измениться знак, опять же, в зависимости от ориентации.
4) Смысл картинки с обходом поверхности по границе понятен? Полчаса искал подходящую картинку. 

5) Повторю вопрос: К какой точке поверхности (полусферы) относится нормаль, данная по условию?