МНК, оценка параметра

[lampard]

$Y(t)=\theta(1-t)+X(t)$

$t=1,2,...,n$

$EX(t)=0$

$X(1),...,X(n)$ - независимо и одинаково распределены

Построить оценку МНК $\hat \theta_n$

Тут нужно прямо так делать?

$\delta_t=y_t-ax_t-b$

$S=\sum_t \delta_t$

$\dfrac{\partial S}{\partial a}=0$

$\dfrac{\partial S}{\partial b}=0$

=>

$\sum x_ty_t=a\sum_t x_t^2+b\sum x_t$

$\sum y_t=a\sum x_t+nb$

$

[--mS--]

Разве у Вас два параметра?

[lampard]

Один параметр

$\delta_t=y_t-\theta(1-t)-X(t)$

$S=\sum_t \delta_t$

$\dfrac{\partial S}{\partial \theta}=t-1=0$

$t=1$

Но это как-то странно.

У нас параметр является сомножителем в свободном члене.

Параметр перед $X_t$ оценивать не имеет смысла, так как известно его точное значение

[_hum_]

lampard, а вы с сутью этого метода (хотя бы в какой-нибудь интерпретации) знакомы?

Например, с таким вариантом:
есть измерения $Y_k$, $k = 1,\dots,n$. Известно, что они являются "зашумленными значениями" функции $f = f_\theta(t)$ с некоторым неизвестным параметром $\theta$, то есть, $Y_k = f_\theta(t_k) + X_k$, где $X_k$ некоторые (также неизвестные) значения шумовых помех. Спрашивается, можно ли как-то выяснить (оценить), какой же все-таки реальный параметр $\theta$ был у функции.

Один из вариантов: для всякого параметра $\theta$ рассмотреть невязки $r_k(\theta) = Y_k - f_\theta(t_k)$, $k = 1,\dots,n$, и попытаться подобрать $\theta$ из расчета, чтобы минимизировать абсолютные значения этих невязок. Если бы не шум, все было бы прекрасно (нашлось бы такое $\theta$, что все невязки обратились в нуль). Но из-за шума ожидать обнуления всех невязок нельзя. Поэтому, как вариант, пытаемся минимизировать "суммарную невязку", точнее сумму квадратов невязок: $S(\theta) = \sum_k r_k^2(\theta)$, что, в частности и приводит к методике МНК.

[lampard]

Спасибо! С Вашими обозначениями -- лучше понял суть.


$r_k(\theta)=y_k-\theta(1-t)$

$S(\theta)=\sum_k r_k^2(\theta)=\sum_k\big[y_k-\theta(1-t)\big]^2$

$\dfrac{\partial S}{\partial \theta}=(t-1)\sum_k\big[y_k-\theta(1-t)\big]=0$

$\hat\theta=\sum_k\dfrac{y_k}{1-t}$

[Евгений Машеров]

Если X(t) известны, то имеет смысл перейти к новой переменной $Z(t)=Y(t)-X(t)=\theta(1-t)=\theta v$ $v=1-t$
И оценивать, как одномерную регрессию без свободного члена.
Правда, неясно, зачем говорить о независимости и одинаковой распределённости Х - если они известны, они детерминированы.
Если же X(t) это неизвестные ошибки, то строится одномерная регрессия бех свободного члена Y(t) на v.

[_hum_]

lampard, внимательнее проверьте свои расчеты (что в них делает $t$, какой у него смысл?).