Прежде всего, не будем разбивать интеграл на верхнюю и нижнюю часть, сейчас это не будет удобно.

"Шапочка" -- жёлтая область.
Вам надо найти площадь зеленой области. Она равна

(т.е.

площади сферы) минус площадь шапочки.
На картинке Вы видите светло-серый луч. Его уравнение

. Луч перпендикулярен "отсекающей" плоскости

. Шапочка осесимметрична относительно этого луча.
Представьте, что светло-серый луч -- полярная ось сферической системы координат (введенной нестандартно по отношению к декартовой). В этой системе шапочка опишется так:

И найти площадь её поверхности совсем просто.