Погрешность наклона аппроксимирующей прямой?

[bastak]

Здравствуйте. У меня вопрос: я строю линейный фит по МНК для данных эксперимента. Хорошо известны формулы для определения погрешности наклона этой аппроксимирующей прямой. А какова будет эта формула, если принять во внимание, что у каждой точки тоже есть своя погрешность(возьмем даже простейший случай - погрешность у всех точек одинакова). Тогда ведь погрешность наклона увеличится. Как быть в этом случае?

[ИСН]

Вот, например, $2+2=4$. Хорошо известны формулы для определения погрешности результата; скажем, на самом деле это будет $4\pm0.1$. Но это если слагаемые были известны точно; а если неточно?

[мат-ламер]

bastak в сообщении #995120 писал(а):

А какова будет эта формула, если принять во внимание, что у каждой точки тоже есть своя погрешность(возьмем даже простейший случай - погрешность у всех точек одинакова).

Это вы про какую погрешность? По какой оси?

[bastak]

Имеется в виду погрешность определения Y координаты(ну допустим просто приборная погрешность, которая для всех точек будет постоянная). Давайте сначала возьмем самый простой случай: погрешности есть только по оси Y.
ИСН: поясните пожалуйста, что вы имеете в виду?

[ИСН]

Сначала Вы поясните. Что такое Ваш МНК - то же самое, что у всех, или как? По какой формуле находится наклон аппроксимирующей прямой?

[bastak]

Эмм, а что, бывают разные МНК? по обычной формуле, здесь это бета: http://en.wikipedia.org/wiki/Simple_linear_regression

[svv]

Допустим, что координаты всех точек известны точно. Точки не лежат на одной прямой — линейной зависимости нет. Мы хотим найти линейную аппроксимацию по МНК. Это вполне определенная формула, и она даёт прямую, точно обеспечивающую минимум суммы квадратов. Объясните, откуда может взяться погрешность наклона прямой?

Если заведомо нет линейной зависимости, по отношению к чему «точному» найденный наклон имеет погрешность?

[Brukvalub]

Уже было.

[ИСН]

bastak в сообщении #995213 писал(а):

Эмм, а что, бывают разные МНК?

Вообще нет, но я подумал - мало ли, вдруг у Вас другой какой-то.
ОК, ну там приведены какие-то формулы для арифметических действий с числами. Такие действия обычно дают конкретный и точный результат, примерно как $2\times2$. Какая вдруг погрешность, откуда?

[bastak]

Обычно же погрешность наклона считается следующим образом: Считаем при каком $b$ $\chi^2$ минимален. Затем немного изменяем $b$, соответственно, увеличивается $\chi^2$. И $\Delta$$b$=$b_1$-$b$, где $b_1$ соответствует $\chi_1^2$ и $\chi_1^2$ - $\chi^2$ больше какого-то определенного значения(1, что-ли?)

[ИСН]

Это другие какие-то слова. Чтобы найти прямую, надо применить формулы. В формулах фигурирует сумма иксов, потом сумма квадратов иксов, и ещё некоторые такие же простые вещи. Если я знаю иксы (и игреки), какая сила может помешать мне посчитать эти вещи? Откуда у меня возьмётся ошибка в подсчёте этих вещей? При чём и зачем вообще тут хи-квадрат?

[Евгений Машеров]

Речь идёт об обычном МНК?
$y=Xa+\varepsilon$?
Тогда нет разницы между отклонениями, вызванными влиянием случайных неучтённых факторов, влияющих на y, и вызванных ошибками измерения величины y. Они все входят в $\varepsilon$, и "погрешность наклона", стандартная ошибка для коэффициента регрессии, считается по обычной формуле. Если Вы измерите с большими ошибками - у Вас просто получится большее значение оценки для $\sigma^2$ и соответственно вырастет стандартная ошибка.
Если же у Вас какая-то иная модель, скажем, с ошибками измерения независимых переменных, там оценка другая, и зависит от метода оценивания.

-- 25 мар 2015, 15:15 --

bastak в сообщении #995238 писал(а):

Обычно же погрешность наклона считается следующим образом: Считаем при каком $b$ $\chi^2$ минимален. Затем немного изменяем $b$, соответственно, увеличивается $\chi^2$. И $\Delta$$b$=$b_1$-$b$, где $b_1$ соответствует $\chi_1^2$ и $\chi_1^2$ - $\chi^2$ больше какого-то определенного значения(1, что-ли?)

Это какой-то... эээ... нетрадиционный метод. Ну, то есть оценивание по минимуму $\chi^2$ существует, наверно, можно и к регрессии применить, но что-то я такого не встречал на практике. А вот варьирование коэффициентов, пересчёт $\chi^2$ (кстати, для какой величины считаем это?) и, главное, задание некоего фиксированного порога

Цитата:

(1, что-ли?)

это что-то новое и свежее...
Можно подробности?

[bastak]

Насколько я помню, хи квадрат - это сумма квадратов отклонений игреков от аппроксимирующей прямой, вот: http://www.phys.hawaii.edu/~varner/PHYS ... tting.html ?
А потом варьируем коэффициенты, пересчитываем $\chi^2$ и когда он превзойдет как раз некий фиксированный порог, считаем разницу между нашим новым коэффициентом и наилучшим, это и будет $\Delta b$(ну или а, как вы написали). Большего я не знаю:)
А вы знаете какой-нибудь другой метод для оценки погрешности наклона аппроксимирующей прямой? Интересно было бы узнать ,а то я кроме этого и совсем дурацкого школьного способа(приблизительно подвигав линейку) я не знаю.

Цитата:

Тогда нет разницы между отклонениями, вызванными влиянием случайных неучтённых факторов, влияющих на y, и вызванных ошибками измерения величины y. Они все входят в $\varepsilon$, и "погрешность наклона", стандартная ошибка для коэффициента регрессии, считается по обычной формуле. Если Вы измерите с большими ошибками - у Вас просто получится большее значение оценки для $\sigma^2$ и соответственно вырастет стандартная ошибка.

Это, кстати, звучит разумно. То есть если ошибка измерения этих величин будет небольшой, то разброс точек тоже будет небольшой, правильно я понимаю? И тогда не будет большой разницы между погрешностью наклона посчитанной по известной формуле и с учетом погрешностей измерений?

[Евгений Машеров]

Посмотрите "парная регрессия".