Я считаю так
Понимаю, что неверно это, но не знаю где. Помогите, пожалуйста.
В принципе оно, может, и верно, но там техническая проблема: упомянутый конус не вполне тривиально пересекается с кубом. Т.е. придётся разбираться: над какой частью квадрата в основании он и впрямь нависает, а над какой -- проходит выше верхней грани того куба. Линия пересечения этих двух поверхностей находится достаточто очевидно:
и
. Соответственно, и интеграл придётся разбить на две части.
(Не вижу, на чём тут можно сжульничать за счёт геометрических соображений; скорее всего, всё придётся считать честно.)