Несмещенная оценка (теория вероятностей)

[MestnyBomzh]

Ага, второй метод еще попробую использовать на другом примере.
Что ж, спасибо!

[MestnyBomzh]

ShMaxG
Можно еще вопрос? У меня есть подобное задание:

$$f_{\xi} (x) = \left\{ \begin{array}{rcl} \frac{2}{a}xe^{-\frac{x^2}{a}}, x \geq 0 \\ 0, x \leq 0 \\ \end{array} \right.$$

$\hat{a} =\frac{1}{n} \sum\limits_{i=1}^{n} X_i ^2$. Делаю как Вы и советовали, через второй метод. Во-превых, мат. ожидание в этот раз оказалось равным $a$. А вот как дисперсию искать? $D(\hat{a}) = E \hat{a}^2 - a^2$.
Непонятно, как искать $ E \hat{a}^2$. Там же получится квадрат суммы квадратов...

[ShMaxG]

А зачем дисперсию искать? Вы хотите состоятельность доказать?

[MestnyBomzh]

Да, требуется доказать / опровергнуть состоятельность

[ShMaxG]

Эту задачу можно решать опять же двумя способами.

1. Доказать, что дисперсия стремится к нулю. Для этого эту дисперсию нужно вычислить, но только формулой $D(\hat{a}) = E \hat{a}^2 - a^2$ пользоваться не удобно, потому что

MestnyBomzh в сообщении #994620 писал(а):

Там же получится квадрат суммы квадратов...

Поэтому вспомните, что дисперсия суммы равна сумме дисперсий (но только в случае, если слагаемые между собой некоррелированы, а в вашем случае, я так понимаю, они даже независимы?). Так вы сведете задачу к вычислению дисперсии $D X^2_i = M X^4_i - (M X^2_i)^2$. Второе слагаемое вы знаете, а первое вычисляйте тем же образом, через интеграл.

2. Ваша оценка -- среднее арифметическое от $X^2_i$. А согласно закону больших чисел (по Хинчину) это среднее арифметическое сходится по вероятности к истинному математическому ожиданию $X^2_i$, т.е. к $a$. Но если вы хотите применить ЗБЧ, то я вас попрошу здесь формулировку этой теоремы привести, чтобы я понял, все ли вы поняли как следует.

[MestnyBomzh]

Первый метод я понял.
По поводу второго. Если я применю ЗБЧ Хинчина: $\frac{\xi_1+..+\xi_n}{n} \to E \xi_1$, то получу лишь сходимость мат ожидания. А нужна то дисперсия.

[ShMaxG]

Если вы примените ЗБЧ Хинчина, вы получите состоятельность. И никакие дисперсии не нужны.

[MestnyBomzh]

ого. интересно. Ну что ж, $E X_1^2$ уже найдено и оно равно константе: $a$. А это же означает, что мы опять можем заменить сходимость в Хинчине по вероятности на сходимость по распределению?

-- 23.03.2015, 21:01 --

Хотя как тогда искать функцию распределения $\hat{a} =\frac{1}{n} \sum\limits_{i=1}^{n} X_i^2$

[ShMaxG]

MestnyBomzh в сообщении #994680 писал(а):

мы опять можем заменить сходимость в Хинчине по вероятности на сходимость по распределению?

В прошлой задаче мы перешли от сходимости по вероятности к сходимости по распределению только потому, что сходимость по распределению исследовать проще, чем сходимость по вероятности (ну, в данном примере). Состоятельность же -- сходимость именно по вероятности. Доказав сходимость по распределению, мы, вообще говоря, не доказываем сходимость по вероятности. Но так как сходимость была к числу, то сходимость по вероятности доказывалась автоматически, а значит доказывалась и состоятельность.

В законе больших чисел сходимость уже по вероятности. Ровно то, что нужно для состоятельности.

[MestnyBomzh]

ShMaxG в сообщении #994687 писал(а):

Доказав сходимость по распределению, мы, вообще говоря, не доказываем сходимость по вероятности. Но так как сходимость была к числу, то сходимость по вероятности доказывалась автоматически, а значит доказывалась и состоятельность.

Вот это я, видимо, как-то неверно понимаю. Потому что $E X_1^2 = a$, вполне себе число

-- 23.03.2015, 22:02 --

Нам же нужно доказать: а: $\frac{X_1^2+..+X^2_n}{n} \overset{P}{\rightarrow} E X_1 ^2$, верно?

[ShMaxG]

MestnyBomzh в сообщении #994717 писал(а):

Вот это я, видимо, как-то неверно понимаю. Потому что $E X_1^2 = a$, вполне себе число

Сходимость по распределению мы в прошлой задаче доказывали. Это один из подходов.

А в этой задаче я предлагаю два других подхода: 1) либо доказать сходимость к нулю дисперсии, 2) ЛИБО просто воспользоваться законом больших чисел для последовательности $(X_1^2,X_2^2,X_3^2,...)$, откуда мгновенно последует то, что и нужно (состоятельность).

MestnyBomzh в сообщении #994717 писал(а):

Нам же нужно доказать: а: $\frac{X_1^2+..+X^2_n}{n} \overset{P}{\rightarrow} E X_1 ^2$, верно?

Вам нужно доказать состоятельность оценки:

$$\frac{X_1^2+..+X^2_n}{n} \overset{P}{\rightarrow} a$$

Но согласно ЗБЧ

$$\frac{X_1^2+..+X^2_n}{n} \overset{P}{\rightarrow} E X_1 ^2$$

К счастью так совпало, что $E X_1 ^2 = a$. Поэтому в данном случае утверждение ЗБЧ тождественно совпало с тем, что нужно доказать. Точка. Задача решена.

[MestnyBomzh]

Так, хорошо, это я понял. Но почему ЗБЧ здесь можно применять? Для этого же нужно показать, что дисперсия кончена, то есть, опять же, найти интеграл

[ShMaxG]

MestnyBomzh в сообщении #994738 писал(а):

Для этого же нужно показать, что дисперсия кончена, то есть, опять же, найти интеграл

Не нужно. Не на то внимание обращаете. ЗБЧ по Хинчину не предполагает существование вторых моментов, в этом-то и прелесть ее формулировки. Выпишите все условия этой теоремы.

[MestnyBomzh]

Для любой последовательности $\xi_1...\xi_n$ независимых и одинаково распределенных CВ с конечным первым моментом: $E \xi_1 < \infty$ имеет место сходимость: $\frac{\xi_1+..+\xi_n}{n} \overset{P}{\rightarrow} E \xi_1$

-- 23.03.2015, 23:12 --

Ага, кажется, я понял. У нас они 1) независимы 2) одинаково распределены 3) $E \xi_1 < \infty$
Значит можно применить эту теорему?

[ShMaxG]

Да, можно. Из независимости $(X_1,X_2,X_3,...)$ следует независимость $(X_1^2,X_2^2,X_3^2,...)$. Раз $X_i$ одинаково распределены, то и $X_i^2$ одинаково распределены. Конечность математического ожидания $E X_1^2$ мы доказали (оно равно $a$). Ну и все, отсюда заключаем, что согласно ЗБЧ по Хинчину

$$\frac{X_1^2+..+X^2_n}{n} \overset{P}{\rightarrow} E X_1 ^2 = a,$$

что и означает состоятельность оценки $\hat a = \frac{1}{n}\sum\limits_{i=1}^{n} X_i^2$.