Ага, 

 и 

 перепутаны местами. И вместо 

 должно стоять 

. Ну а для доказательства надо внести производную по 

 внутрь, заменить ее из уравнения на производные по 

 и интегрировать по частям.
Про коэф-т A - делом в том, что в книге, откуда эта задача, нет символа мат. ожидания для вычисления 

 - запись именно такая, как в моем самом первом посте.
Про коэф-т B все  равно не догоняю, но начну, Вы уж меня скорректируйте, пожалуйста, что я не так делаю:
Вношу производную под интеграл: 
![$$\int_R (y-y_0)^2 P_t dy = \int_R (y-y_0)^2 d \left[(AP) +\frac{1}{2}(BP)_y\right ] =$$ $$\int_R (y-y_0)^2 P_t dy = \int_R (y-y_0)^2 d \left[(AP) +\frac{1}{2}(BP)_y\right ] =$$](https://dxdy-03.korotkov.co.uk/f/a/d/9/ad9ad0bc3ddd347ef6f434387224259282.png) 
![$$=\left.\left [(y-y_0)^2\left((AP)+\frac{1}{2}(BP)_y\right)\right]\right|_R-2\int_R (AP+\frac{1}{2}(BP)_y)(y-y_0)dy$$ $$=\left.\left [(y-y_0)^2\left((AP)+\frac{1}{2}(BP)_y\right)\right]\right|_R-2\int_R (AP+\frac{1}{2}(BP)_y)(y-y_0)dy$$](https://dxdy-04.korotkov.co.uk/f/7/7/5/775c9305861d1dbafca80eb60344ea5e82.png)
 дальше можно ту часть под интегралом, которая с  

 еще раз проинтегрировать по частям, но не понимаю к чему это хорошему приведет. Буду рад подсказкам  
