Поток вектора через конус в сфере.

[svv]

У Вас дважды повторяются $d\varphi$ и $d\theta$. Надо только один раз:
$I=\int_0^3 r^2\,dr \int_{0}^{\frac\pi 4}\sin\theta\,d\theta \int_{0}^{2\pi} d\varphi \,(4r\,\sin\theta\,\cos\varphi -12r\,\sin\theta\,\sin\varphi+2r\,\cos\theta)$
Разбиваем на три интеграла: $I=I_1+I_2+I_3$, где
$I_1=\quad\; 4\int_0^3 r^3\,dr \int_{0}^{\frac\pi 4}\sin^2\theta\,d\theta \int_{0}^{2\pi}\cos\varphi\,d\varphi $
$I_2=-12\int_0^3 r^3\,dr \int_{0}^{\frac\pi 4}\sin^2\theta\,d\theta \int_{0}^{2\pi}\sin\varphi\,d\varphi $
$I_3=\quad\; 2\int_0^3 r^3\,dr \int_{0}^{\frac\pi 4} \sin\theta\,\cos\theta\,d\theta \int_{0}^{2\pi} d\varphi $
Интегралы $I_1$ и $I_2$ сразу равны нулю, так как $\int_{0}^{2\pi}\cos\varphi\,d\varphi=0$, аналогично $\int_{0}^{2\pi}\sin\varphi\,d\varphi=0$. Остается:
$I=I_3=2\,\frac{r^4}4 \Bigl|_0^3 \, 2\pi \,\int\limits_{\theta=0}^{\frac \pi 4}\sin\theta\,d(\sin\theta) =4\pi\, \frac{81}4 \int\limits_{u=0}^{\frac {\sqrt{2}} 2} u\,du$
Дальше Вы сможете сами.

[DimaIvanov09]

svv большое вам спасибо!