Формулы надо окружать знаками доллара.

А такие поверхности Вам знакомы?

или

Ваша похожа на них: такая же симметричная, ограничивающая тело, похожее на помятый шарик. Его объём и надо найти. Но в начале убедитесь сами, что поверхность без всяких разрывов и симметрична. Рассмотрите её в первом октанте. А потом надо будет интегрировать.