Прежде всего, не будем разбивать интеграл на верхнюю и нижнюю часть, сейчас это не будет удобно.
"Шапочка" -- жёлтая область.
Вам надо найти площадь зеленой области. Она равна
(т.е.
площади сферы) минус площадь шапочки.
На картинке Вы видите светло-серый луч. Его уравнение
. Луч перпендикулярен "отсекающей" плоскости
. Шапочка осесимметрична относительно этого луча.
Представьте, что светло-серый луч -- полярная ось сферической системы координат (введенной нестандартно по отношению к декартовой). В этой системе шапочка опишется так:
И найти площадь её поверхности совсем просто.