Добрый день, у меня проблемы с определением СКО.
В методичке дана формула:
Цитата:
… полученные данные аппроксимируются линейной функцией
![$Y=kX+a$ $Y=kX+a$](https://dxdy-04.korotkov.co.uk/f/f/9/6/f964e824e2c5e8d983b71f47e0533bb782.png)
. Здесь
![$k$ $k$](https://dxdy-03.korotkov.co.uk/f/6/3/b/63bb9849783d01d91403bc9a5fea12a282.png)
— тангенс угла наклона прямой, из которого будем определять среднее значение искомой величины, а погрешность искомой величины из среднеквадратичного отклонения величины
![$k$ $k$](https://dxdy-03.korotkov.co.uk/f/6/3/b/63bb9849783d01d91403bc9a5fea12a282.png)
—
![$S_k$ $S_k$](https://dxdy-03.korotkov.co.uk/f/6/7/f/67f338190db57bac70d43e66e745cbfb82.png)
. Они выражаются следующими формулами:
![$$k= \frac{<XY> - <X><Y>}{<X^2> -<X>^2} \qquad\qquad\qquad\qquad (20)$$ $$k= \frac{<XY> - <X><Y>}{<X^2> -<X>^2} \qquad\qquad\qquad\qquad (20)$$](https://dxdy-04.korotkov.co.uk/f/b/6/2/b6266dd01f1f08ea6d42d269d944356682.png)
![$$S_k = \frac{1}{\sqrt{n-2}} \sqrt{\frac{<Y^2> - <Y>^2}{<X^2>-<X>^2} - k^2}, \qquad\qquad (21)$$ $$S_k = \frac{1}{\sqrt{n-2}} \sqrt{\frac{<Y^2> - <Y>^2}{<X^2>-<X>^2} - k^2}, \qquad\qquad (21)$$](https://dxdy-04.korotkov.co.uk/f/7/f/0/7f0c3f9f9b6d17582ea5186636b19dd782.png)
где
![$n$ $n$](https://dxdy-02.korotkov.co.uk/f/5/5/a/55a049b8f161ae7cfeb0197d75aff96782.png)
— число измерений.
Но в моей работе подкоренное выражение выходит отрицательным (
![$k^2$ $k^2$](https://dxdy-03.korotkov.co.uk/f/e/f/f/effaff0fa9029c06866fc88eaa8e1d9282.png)
> дроби), покажите, пожалуйста, как быть. Правомерно ли использование модуля в подкоренном выражении?