У меня в

коэффициент при компоненте

не такой.
Во-вторых, циркуляция вектора находится по замкнутому контуру. Он у Вас где? Я вот вижу

и терм

- где тут контур? Только если вместо терма было уравнение плоскости, но какое...?
А формулу Стокса вроде-бы правильно пытаетесь применить, только в каждом интеграле вместо поверхности

берется ее соответствующая проекция (т.е. с обозначениями аккуратнее). И еще:

- это площадь

- исходя из этого некоторые из Ваших двойных интегралов можно найти проще.