Модель "Регрессии"

[ktoto]

В модели регрессии есть такая сущность как ошибки наблюдения $\varepsilon_i$.
То есть, имеем ошибку наблюдения случайной величины.
Получаем какое-то масло масляное, или нет?

Или мы взваливаем проблемы связанные с непостоянством дисперсии на плечи "ошибки наблюдения"?

[Pphantom]

ktoto в сообщении #901029 писал(а):

То есть, имеем ошибку наблюдения случайной величины.

Почему случайной-то? Ошибка случайная (предположительно), а сама измеряемая величина - нет.

[ktoto]

Pphantom в сообщении #901036 писал(а):

ktoto в сообщении #901029 писал(а):

То есть, имеем ошибку наблюдения случайной величины.

Почему случайной-то? Ошибка случайная (предположительно), а сама измеряемая величина - нет.

Ну если мы знаем что мы ищем зависимость матожидания от переменных, то получается что мы знаем что это случайная величина. ?

[arseniiv]

Не думаю, что будет вредно, если вы выпишете конкретные определения (ну или хотя бы обозначения), в контексте которых ваш вопрос есть.

[Александрович]

Ошибка наблюдения это отклонение измеряемой величины от линии регрессии.

[Евгений Машеров]

0. Не претендую на роль эксперта по матстатистике, просто прикладник, тут есть куда более квалифицированные люди. Но именно как прикладник хотел бы потребовать чёткости определений. "Моделей регрессии" много, есть с детерминированными регрессорами, есть со случайными. Нужно оговорить строго, какая.
1. В наиболее часто применимой модели $y=Xa+\varepsilon$ регрессоры X и коэффициенты a принимаются детерминированными. Случайными величинами являются $\varepsilon$ и Y. В дальнейшем буду говорить только о ней.
2. Именование $\varepsilon$ "ошибками измерений" не более, чем оборот речи. Иногда достаточно адекватный реальности (если наша модель полна, никаких неучтённых факторов нет, и единственный источник отклонения - то, что Y мы измеряем с ошибкой; астрономия, геодезия, физика...), иногда не слишком (на самом деле действуют неучтённые факторы, но поскольку мы о них ничего не знаем, то принимаем их случайными; медицина, экономика...). Причём случайность во всех случаях постулируется.
3. В ходе оценивания у нас появляется вектор невязок $e=(I-X(X^TX)^{-1}X^T)y$, являющийся оценкой вектора $\varepsilon$. Иногда его тоже именуют "ошибками измерения". Для заданных X и Y это детерминированная величина, но если мы рассматриваем модель порождения Y, то и e оказывается случайной величиной, зависящей от случайной величины $\varepsilon$
$e=(I-X(X^TX)^{-1}X^T)\varepsilon$
Бывает полезно различать посчитанную для данного набора регрессоров и регрессанда невязку и невязку, как случайную величину.

[ktoto]

Pphantom
arseniiv
Александрович
Евгений Машеров

Понял спасибо, как мне показалось, мы как бы упрощаем модель с помощью вектора невязок(почему бы и нет), весь набор неучтённых факторов запихиваем в вектор невязок и вводим на него условия Гаусса-Маркова.