Вот окончательное решение

т.к. интегрирование по шару.
Дисперсия для

равна
![$D[\vec r]=M[r^2]=\frac{\int{\rho r^2 dV}}{\int{\rho dV}}=\frac 3 5 {R_0}^2$ $D[\vec r]=M[r^2]=\frac{\int{\rho r^2 dV}}{\int{\rho dV}}=\frac 3 5 {R_0}^2$](https://dxdy-03.korotkov.co.uk/f/a/e/c/aeceba3cb4356f50ba190275ee69d83182.png)

есть по сути выборочное среднее по

молекулам.
Флуктуация цетра масс есть дисперсия от выборочного среднего, т.е.
Вот и получился ответ как в учебнике (см. 1 пост).
Спасибо всем, особенно nikvic за идею.