Вопрос по СКО

[MagisterLudi]

Добрый день, у меня проблемы с определением СКО.
В методичке дана формула:

Цитата:

… полученные данные аппроксимируются линейной функцией $Y=kX+a$. Здесь $k$ — тангенс угла наклона прямой, из которого будем определять среднее значение искомой величины, а погрешность искомой величины из среднеквадратичного отклонения величины $k$ — $S_k$. Они выражаются следующими формулами:

$$k= \frac{<XY> - <X><Y>}{<X^2> -<X>^2} \qquad\qquad\qquad\qquad (20)$$

$$S_k = \frac{1}{\sqrt{n-2}} \sqrt{\frac{<Y^2> - <Y>^2}{<X^2>-<X>^2} - k^2}, \qquad\qquad (21)$$

где $n$ — число измерений.

Но в моей работе подкоренное выражение выходит отрицательным ($k^2$ > дроби), покажите, пожалуйста, как быть. Правомерно ли использование модуля в подкоренном выражении?

[Brukvalub]

MagisterLudi в сообщении #1083182 писал(а):

покажите, пожалуйста, как быть.

Пересчитывать.

[MagisterLudi]

Цитата:

Пересчитывать.

Спасибо!

[Евгений Машеров]

Не бывает. Всегда неотрицательно.

-- 18 дек 2015, 19:06 --

Угловые скобки тут что, суммы или средние?