Очевидно, что вопрос о том, можно ли решить данную задачу с помощью формулы Стокса сводится к вопросу о том, можно ли с помощью формулы Стокса посчитать интеграл
Гладкость границы тут не страшна: во-первых, она кусочно гладкая, во-вторых, -- липшицева. Тот факт, что мы интегрируем по гиперболоиду, а не по квадрату, -- тоже не важен, область интегрирования -- это диффеоморфный образ квадрата.
Формальный ответ -- да, потому что область стягиваема, поэтому любая замкнутая форма является точной. Как найти первообразную? Ну, например, по формуле
Потом эту первообразную надо проинтегрировать по границе (очевидно, только по двум кускам из четырех).
Ну да, а на вопрос "чем это отличается от вычисления интеграла по области" ответом будет "ничем". Формула Стокса в данном случае будет просто формулой Ньютона-Лейбница по одному параметру для вычисления двумерного интеграла.
Правда, если ещё немного подумать, то можно понять, что формула Стокса в локальных координатах вообще всегда является формулой Ньютона-Лейбница с параметром.