Оценка матожидания по квадратам

[vlad_light]

Пусть имеется выборка $\{X_1, X_2,\ldots ,X_n\}$, построенная по закону:

$$X_i = \xi ^2_i + \varepsilon _i,$$

где $\xi _i\sim N(\mu ,\sigma ^2), \varepsilon _i\sim N(0, \sigma _\varepsilon ^2)$; известно только $\sigma _\varepsilon$. Все переменные независимы. Как оценить $\mu $ по этой выборке?
Пусть также имеется другая выборка $\{Y_1,Y_2,\ldots ,Y_n\}$ такого же объёма, где $Y_i=\xi _i$. Правда ли, что наилучшая оценка $\mu$ среди этих двух выборок будет среднее $Y$-ов?
ММ:

$$\overline X=E(\xi ^2 +\varepsilon )=\mu ^2 +\sigma ^2\Rightarrow \sigma ^2 = \overline X - \mu ^2$$

$$\overline {X^2}=E(\xi ^2 +\varepsilon )^2=E\xi ^4 + E\varepsilon ^2=\mu ^4 +6\mu ^2\sigma ^2 +3\sigma ^4 + \sigma _\varepsilon ^2\Rightarrow $$

$$\mu =2^{-\frac 14}(3\overline X^2-\overline {X^2}+\sigma _\varepsilon ^2)^\frac 14$$

где я ошибся?

[Lia]

Тема перемещена из форума «Помогите решить / разобраться (М)» в форум «Карантин»
Приведите свои попытки решения и/или укажите затруднения.

После того как исправите сообщение, сообщите об этом в теме Сообщение в карантине исправлено, и тогда тема будет возвращена.

[Toucan]

Тема перемещена из форума «Карантин» в форум «Помогите решить / разобраться (М)»

[--mS--]

vlad_light в сообщении #847467 писал(а):

где я ошибся?

В первом равенстве каждой из первых двух формул, разумеется.

-- Чт апр 10, 2014 00:36:55 --

(Оффтоп)

И, уж если формально, из карантина тема возвращена напрасно. То, что написано, не имеет никакого отношения к тому, что спрашивалось.

[vlad_light]

--mS-- в сообщении #847593 писал(а):

В первом равенстве каждой из первых двух формул, разумеется.

Можно по-подробнее, пожалуйста? Пусть $X$ имеет некоторое распределение, которое зависит от параметров $\mu$ и $\sigma ^2$. Тогда

$$\mu _1 = EX=E(\xi ^2 +\varepsilon )=E\xi ^2 +E\varepsilon = D\xi + (E\xi )^2 + 0=\sigma ^2 + \mu ^2=g_1(\mu ,\sigma ^2 )$$

$$\mu _2=EX^2=E(\xi ^2 +\varepsilon )^2=\ldots =g_2(\mu ,\sigma ^2 )$$

Предположим, что $\hat \mu _j=\frac 1n \sum X_i^j$. Тогда оценкой будет решение системы уравнений:

$$ \begin{cases} \hat \mu _1=\overline X=g_1(\hat\mu ,\hat\sigma ^2 ) \\ \hat \mu _2=\overline {X^2}=g_2(\hat\mu ,\hat\sigma ^2 ) \end{cases} $$

Что тут не так?

[--mS--]

Вот тут всё так. И Вы прекрасно понимаете, что было не так выше, раз исправили.

Только какое отношение это имеет к заданному в верхнем посте вопросу, не понимаю. Кстати, как понимать выборку игреков - наблюдаются те же самые $\xi_i$, что и в выборке иксов?

[vlad_light]

--mS-- в сообщении #847666 писал(а):

И Вы прекрасно понимаете, что было не так выше, раз исправили.

Не понимаю... Вы про шапочки (^) что ли? При решении системы уравнений, у меня получилась отрицательная велиина под корнем. Я что-то не так посчитал или так и должно быть?

--mS-- в сообщении #847666 писал(а):

Только какое отношение это имеет к заданному в верхнем посте вопросу, не понимаю.

Мне посоветовали попробовать метод моментов, вот я его и написал.

--mS-- в сообщении #847666 писал(а):

Кстати, как понимать выборку игреков - наблюдаются те же самые $\xi_i$, что и в выборке иксов?

Да, те же.

[--mS--]

vlad_light в сообщении #847674 писал(а):

Не понимаю... Вы про шапочки (^) что ли?

Не про шапочки, а про равенство констант и случайных величин.

vlad_light в сообщении #847674 писал(а):

При решении системы уравнений, у меня получилась отрицательная велиина под корнем. Я что-то не так посчитал или так и должно быть?

Не вижу никаких отрицательных величин. Асимптотически там под корнем $\mu^4$, как и должно быть. Кстати, это оценка не для $\mu$, но для $|\mu|$.

vlad_light в сообщении #847674 писал(а):

Мне посоветовали попробовать метод моментов, вот я его и написал.

Тогда я не понимаю, при чём тут вообще иксы. Наблюдается выборка из игреков: $Y_i=\xi_i$. Ещё наблюдается выборка из $X_i=Y_i^2+\varepsilon_i$, т.е., на самом деле, выборка из $\varepsilon_i=X_i-Y_i^2$. Эта выборка никакого отношения к $\mu$ и $\sigma$ не имеет, никакой новой информации про них дать не может. Даже более того: по выборке иксов даже знак $\mu$ угадать нельзя. Зачем нам по ней оценивать параметры?

Повторю на всякий случай вопрос: $\xi_i$ в обеих выборках одинаковы?

[vlad_light]

--mS-- в сообщении #847804 писал(а):

Не вижу никаких отрицательных величин.

Получается, что $\hat {|\mu |}=2^\frac 14(3\overline X^2-\overline {X^2}+\sigma ^2_\varepsilon)^\frac 14$; мне не понятно, почему $3\overline X^2-\overline {X^2}+\sigma ^2_\varepsilon \geqslant 0$?

--mS-- в сообщении #847804 писал(а):

Повторю на всякий случай вопрос: $\xi_i$ в обеих выборках одинаковы?

Да, одинаковые. Теперь у меня ещё два вопроса:
1. Пусть $y_i=\xi _i+\varepsilon _i ; x_i=\xi _i + \delta _i$, где все величины независимы, добавки нормальные с нулевым средним и известными дисперсиями. Нужно оценить $\mu _\xi$. Рассматриваю 2 оценки (по $x$ и по $y$). Мне кажется, что лучшей будет та оценка, для которой дисперсия добавки меньше, поскольку:
$D\overline y = \frac {1}{n^2}D\sum y_i=\frac {1}{n^2}\sum Dy_i=\frac {1}{n^2}nDy_1=\frac {1}{n}(\sigma _\xi ^2+\sigma _\varepsilon ^2)$; аналогично для $D\overline x$. Тогда $D\overline y > D\overline x\Leftrightarrow \sigma _\varepsilon ^2> \sigma _\delta ^2$ так?
1.а Данная оценка наилучшая?
2. Пусть $y_i =\xi _i^2+\varepsilon _i$, $x$ и всё остальное -- такое же.
2.а Есть ли смысл оценивать $\mu _\xi$ отлично от $\overline X$ при условии $\sigma _\varepsilon ^2 > \sigma _\delta ^2$? А если $<$?
2.б $Ey=Ey^2+E\varepsilon = \mu _\xi ^2 +\sigma _\xi ^2$, т.е. при известном $\mu _\xi $ одной из оценок $\sigma _\xi ^2$ будет $\hat {\sigma ^2} =\overline y-\mu _\xi ^2$. Как сравнить эту оценку с $\hat \sigma ^2_{\mathrm {naive}}$? (У меня возникли трудности с подсчётом $D\hat \sigma _\xi $)
И, кстати, большое спасибо за предыдущие разъяснения!

[--mS--]

vlad_light в сообщении #851871 писал(а):

мне не понятно, почему $3\overline X^2-\overline {X^2}+\sigma ^2_\varepsilon \geqslant 0$?

А кто Вам сказал, что оно неотрицательно? Оно асимптотически неотрицательно! Вы говорили, что эта случайная величина отрицательна, что заведомо не так. На конкретных выборках, при конечном $n$, разумеется, может и отрицательные значения принимать, точно так же как и $\overline X$ в первом уравнении $\overline X=\hat\mu^2+\hat\sigma^2$. Ну так глупая постановка - глупые оценки.

vlad_light в сообщении #851871 писал(а):

Теперь у меня ещё два вопроса:
1. Пусть $y_i=\xi _i+\varepsilon _i ; x_i=\xi _i + \delta _i$, где все величины независимы, добавки нормальные с нулевым средним и известными дисперсиями. Нужно оценить $\mu _\xi$.
1.а Данная оценка наилучшая?

Разумеется, нет. Возьмите полусумму этих оценок и убедитесь, что её дисперсия равна $\sigma_\xi^2+\dfrac{\sigma^2_\varepsilon+\sigma^2_\delta}{4}$, что вполне может быть меньше дисперсий обеих оценок.

2 и далее - не знаю. Вы задаёте вопросы, для ответа на которые нужно проделать кучу работы. А что-то мне не очень хочется выполнять чужую работу.

[vlad_light]

--mS-- в сообщении #851921 писал(а):

что вполне может быть меньше дисперсий обеих оценок.

Действительно, не подумал...

--mS-- в сообщении #851921 писал(а):

вопросы, для ответа на которые нужно проделать кучу работы.

Этого ответа мне вполне достаточно! Я просто предположил, что существует какое-то тривиальное решение, которого я не увидел.
Ещё раз спасибо!