2014 dxdy logo

Научный форум dxdy

Математика, Физика, Computer Science, Machine Learning, LaTeX, Механика и Техника, Химия,
Биология и Медицина, Экономика и Финансовая Математика, Гуманитарные науки




На страницу 1, 2  След.
 
 Нахождение информации Фишера
Сообщение02.07.2014, 08:43 
Дана функция плотности равномерного распределения $ f_x = \frac {1}{2b+1} $
Необходимо найти информацию Фишера

Я построил функцию правдоподобия
$ L = \frac {1}{(2b+1)^{n}} I(b \leqslant \frac {x_{(n)}}{2})$
Далее последовательно нашел:
$ \ln(L) = -n \ln(2b+1)$
$ \frac {d \ln(L)}{d b} = - \frac {2n}{2b+1}$
$ \frac {d^{2} \ln(L)}{d b^{2}} = \frac {4n}{(2b+1)^{2}}$
Далее если я считаю по разным формулам нахождения информации Фишера, у меня получаются разные ответы
$ i(b) = \frac {I_{n}(b)}{n} = \frac {1}{n}M[(\frac {d \ln(L)}{d b})^{2}] = \frac {4n}{(2b+1)^{2}}$
$ i(b) = -M[\frac {d^{2} \ln(L)}{d b^{2}}] = - \frac {4n}{(2b+1)^{2}}$
С чем это связано? Какая из них будет правильнее?

 
 
 
 Re: Нахождение информации Фишера
Сообщение02.07.2014, 11:52 
Аватара пользователя
Segan в сообщении #883053 писал(а):
Дана функция плотности равномерного распределения $ f_x = \frac {1}{2b+1} $

На каком от резке?

 
 
 
 Re: Нахождение информации Фишера
Сообщение02.07.2014, 13:37 
Henrylee в сообщении #883092 писал(а):
Segan в сообщении #883053 писал(а):
Дана функция плотности равномерного распределения $ f_x = \frac {1}{2b+1} $

На каком от резке?

$[-1;2b]$

 
 
 
 Re: Нахождение информации Фишера
Сообщение02.07.2014, 14:44 
Аватара пользователя
Segan в сообщении #883053 писал(а):
Дана функция плотности равномерного распределения $ f_x = \frac {1}{2b+1} $
Необходимо найти информацию Фишера

Я построил функцию правдоподобия
$ L = \frac {1}{(2b+1)^{n}} I(b \leqslant \frac {x_{(n)}}{2})$

Перепроверьте.

Segan в сообщении #883053 писал(а):
$ i(b) = -M[\frac {d^{2} \ln(L)}{d b^{2}}] = - \frac {4n}{(2b+1)^{2}}$

Откуда формула?

 
 
 
 Re: Нахождение информации Фишера
Сообщение02.07.2014, 15:36 
Henrylee в сообщении #883160 писал(а):
Перепроверьте.

Все правильно.

Henrylee в сообщении #883160 писал(а):
Откуда формула?

Одно из следствий теоремы об информационном неравенстве Рао-Крамера.

 
 
 
 Re: Нахождение информации Фишера
Сообщение02.07.2014, 15:53 
Аватара пользователя
Segan в сообщении #883177 писал(а):
Henrylee в сообщении #883160 писал(а):
Перепроверьте.

Все правильно.

Ваша функция правдоподобия почти наверное ноль.
Еще раз перепроверьте.

Segan в сообщении #883177 писал(а):
Henrylee в сообщении #883160 писал(а):
Откуда формула?

Одно из следствий теоремы об информационном неравенстве Рао-Крамера.

Да неужели?
Я про источник спрашивал.

 
 
 
 Re: Нахождение информации Фишера
Сообщение02.07.2014, 16:11 
Henrylee в сообщении #883181 писал(а):
Да неужели?
Я про источник спрашивал.

Вообще-то, я проверила, выполняется - при выполнении условий теоремы Рао-Крамера, т.е. при допущении возможности дифференцирования под знаком интеграла (ряда). $\left(\dfrac{\partial \ln p(x,\theta)}{\partial\theta}\right)^2$ отличается от $-\dfrac{\partial^2 \ln p(x,\theta)}{\partial\theta^2}$ на $p''_{\theta\theta}/p$, матожидание которой в таких условиях нулевое. Хотя тоже вижу сие первый раз, признаться.

 
 
 
 Re: Нахождение информации Фишера
Сообщение02.07.2014, 16:16 
Аватара пользователя
Лично мне здесь не нравится знак минус.
Первый ответ-то верный.

-- Ср июл 02, 2014 17:18:56 --

Otta в сообщении #883189 писал(а):
... на $p''_{\theta\theta}/p$, матожидание которой в таких условиях нулевое.

Разве нулевое?

 
 
 
 Re: Нахождение информации Фишера
Сообщение02.07.2014, 16:27 
Henrylee в сообщении #883191 писал(а):
Разве нулевое?

Если разрешить равенство $\int p(x,\theta)\,dx\equiv 1$ дифференцировать по параметру под знаком интеграла дважды, если уж совсем точно. Вроде так. Не, минус нужен.

Минус перед матожиданием второй производной, имеется в виду.

-- 02.07.2014, 19:49 --

Segan
Так Вы проверили условия теоремы? Можно дифференцировать?

 
 
 
 Re: Нахождение информации Фишера
Сообщение02.07.2014, 17:07 
Otta в сообщении #883196 писал(а):
Так Вы проверили условия теоремы? Можно дифференцировать?


ОМП оценка получается смещенной

 
 
 
 Re: Нахождение информации Фишера
Сообщение02.07.2014, 17:16 
Несмещенность в Рао-Крамере (а тем более, в информации Фишера) как-то погоды не делает. Там другое важнее. Выше я припоминала, что.

 
 
 
 Re: Нахождение информации Фишера
Сообщение03.07.2014, 08:32 
Аватара пользователя
Otta в сообщении #883214 писал(а):
Несмещенность в Рао-Крамере (а тем более, в информации Фишера) как-то погоды не делает. Там другое важнее. Выше я припоминала, что.

Кстат, речь о неравенстве Рао-Крамера пока вообще не шла. Только об информации Фишера.
И если бы там был ноль, где Вы говорите, то оба варианта бы у ТС совпали.

 
 
 
 Re: Нахождение информации Фишера
Сообщение03.07.2014, 08:38 
Henrylee
А я не говорю, что у ТС там должен быть ноль. Легко проверить непосредственно, что его там нет. Я говорю, что при стандартном требовании теоремы Рао-Крамера о возможности дифф-сти (здесь - дважды) под знаком интеграла ноль есть.

И на условия этой теоремы переключился именно ТС, сказав, что эта формула была как следствие неравенства Рао-Крамера. Естественно, информация Фишера определяется сама по себе, хотя бы потому, что в этой теореме она уже фигурирует как данность.

И я с Вами согласна, что первое определение хорошее.

 
 
 
 Re: Нахождение информации Фишера
Сообщение03.07.2014, 08:48 
Аватара пользователя
Otta в сообщении #883460 писал(а):

И на условия этой теоремы переключился именно ТС, сказав, что эта формула была как следствие неравенства Рао-Крамера.

Ах, да, Вы правы, было такое :-) Согласен-согласен, я Вас неправильно понял сначала.

 
 
 
 Re: Нахождение информации Фишера
Сообщение03.07.2014, 19:26 
Аватара пользователя
А давно информация Фишера считается для нерегулярных семейств, у которых нельзя дифференцировать под знаком интеграла?

 
 
 [ Сообщений: 19 ]  На страницу 1, 2  След.


Powered by phpBB © 2000, 2002, 2005, 2007 phpBB Group