2014 dxdy logo

Научный форум dxdy

Математика, Физика, Computer Science, Machine Learning, LaTeX, Механика и Техника, Химия,
Биология и Медицина, Экономика и Финансовая Математика, Гуманитарные науки


Правила форума


В этом разделе нельзя создавать новые темы.

Если Вы хотите задать новый вопрос, то не дописывайте его в существующую тему, а создайте новую в корневом разделе "Помогите решить/разобраться (М)".

Если Вы зададите новый вопрос в существующей теме, то в случае нарушения оформления или других правил форума Ваше сообщение и все ответы на него могут быть удалены без предупреждения.

Не ищите на этом форуме халяву, правила запрещают участникам публиковать готовые решения стандартных учебных задач. Автор вопроса обязан привести свои попытки решения и указать конкретные затруднения.

Обязательно просмотрите тему Правила данного раздела, иначе Ваша тема может быть удалена или перемещена в Карантин, а Вы так и не узнаете, почему.



Начать новую тему Ответить на тему
 
 Вырожденный случай для функции правдоподобия.
Сообщение18.07.2012, 21:11 
Аватара пользователя


24/10/05
400
Помогите понять вырожденный случай.
С невырожденным случаем все понятно.
Пусть дана выборка случайных величин i.i.d. (закон распределения нормальный)
$
\[X = \left\{ {{x_1}...{x_n}} \right\}\]$
тогда для него считаем функцию правдоподобия
$% MathType!MTEF!2!1!+-
% feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbdfgBPj
% MCPbqedmvETj2BSbqefm0B1jxALjhiov2DaebbnrfifHhDYfgasaac
% H8srps0lbbf9q8WrFfeuY-Hhbbf9v8qqaqFr0xc9pk0xbba9q8WqFf
% ea0-yr0RYxir-Jbba9q8aq0-yq-He9q8qqQ8frFve9Fve9Ff0dmeaa
% baqaciGacaGaaeqabaWaaeaaeaaakabbaaaaaaaaxxo8TVF6a8qaba
% GaamitaiaacIcacqaH4oqCcaGGPaGaeyypa0JaamiCaiaacIcacaWG
% ybGaaiiFaiabeI7aXjaacMcaaaa!43A9!
\[L(\theta ) = p(X|\theta )\]$
$% MathType!MTEF!2!1!+-
% feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbdfgBPj
% MCPbqedmvETj2BSbqefm0B1jxALjhiov2DaebbnrfifHhDYfgasaac
% H8srps0lbbf9q8WrFfeuY-Hhbbf9v8qqaqFr0xc9pk0xbba9q8WqFf
% ea0-yr0RYxir-Jbba9q8aq0-yq-He9q8qqQ8frFve9Fve9Ff0dmeaa
% baqaciGacaGaaeqabaWaaeaaeaaakabbaaaaaaaaxxo8TVF6a8qaba
% GaamitaiaacIcacqaH4oqCcaGGPaGaeyypa0JaamiCaiaacIcacaWG
% ybGaaiiFaiabeI7aXjaacMcacqGH9aqpdaqeWbqaaiaadchacaGGOa
% GaamiEamaaBaaaleaacaWGUbaabeaakiaacYhacqaH4oqCcaGGPaaa
% leaacaWGUbGaeyypa0JaaGymaaqaaiaad6eaa0Gaey4dIunaaaa!5191!
\[L(\theta ) = p(X|\theta ) = \prod\limits_{n = 1}^N {p({x_n}|\theta )} \]$
потом логарифмируем, и находим частную производную и находим приравниваем ее к нулю и
$% MathType!MTEF!2!1!+-
% feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbdfgBPj
% MCPbqedmvETj2BSbqefm0B1jxALjhiov2DaebbnrfifHhDYfgasaac
% H8srps0lbbf9q8WrFfeuY-Hhbbf9v8qqaqFr0xc9pk0xbba9q8WqFf
% ea0-yr0RYxir-Jbba9q8aq0-yq-He9q8qqQ8frFve9Fve9Ff0dmeaa
% baqaciGacaGaaeqabaWaaeaaeaaakabbaaaaaaaaxxo8TVF6a8qaea
% qabeaaciGGSbGaai4BaiaacEgacaWGmbGaaiikaiabeI7aXjaacMca
% cqGH9aqpciGGSbGaai4BaiaacEgacaWGWbGaaiikaiaadIfacaGG8b
% GaeqiUdeNaaiykaiabg2da9maaqahabaaaleaacaWGUbGaeyypa0Ja
% aGymaaqaaiaad6eaa0GaeyyeIuoakiGacYgacaGGVbGaai4zaiaadc
% hacaGGOaGaamiEamaaBaaaleaacaWGUbaabeaakiaacYhacqaH8oqB
% caGGSaGaeq4WdmNaaiykaaqaaiabeY7aTjaacYcacaaMf8Uaamioei
% aaywW7cqaHdpWCaaaa!649C!
\[\begin{array}{l}
\log L(\theta ) = \log p(X|\theta ) = \sum\limits_{n = 1}^N {} \log p({x_n}|\mu ,\sigma )
\end{array}\]$
находим
значения
$% MathType!MTEF!2!1!+-
% feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbdfgBPj
% MCPbqedmvETj2BSbqefm0B1jxALjhiov2DaebbnrfifHhDYfgasaac
% H8srps0lbbf9q8WrFfeuY-Hhbbf9v8qqaqFr0xc9pk0xbba9q8WqFf
% ea0-yr0RYxir-Jbba9q8aq0-yq-He9q8qqQ8frFve9Fve9Ff0dmeaa
% baqaciGacaGaaeqabaWaaeaaeaaakabbaaaaaaaaxxo8TVF6a8qaba
% GaeqiVd0Maaiilaiabeo8aZbaa!3D0B!
\[\mu ,\sigma \]$
Как быть в вырожденном случае, то есть если

$% MathType!MTEF!2!1!+-
% feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbdfgBPj
% MCPbqedmvETj2BSbqefm0B1jxALjhiov2DaebbnrfifHhDYfgasaac
% H8srps0lbbf9q8WrFfeuY-Hhbbf9v8qqaqFr0xc9pk0xbba9q8WqFf
% ea0-yr0RYxir-Jbba9q8aq0-yq-He9q8qqQ8frFve9Fve9Ff0dmeaa
% baqaciGacaGaaeqabaWaaeaaeaaakabbaaaaaaaaxxo8TVF6a8qaba
% Gaamiwaiabg2da9maacmaabaGaamiEamaaBaaaleaacaaIXaaabeaa
% aOGaay5Eaiaaw2haaaaa!3EE4!
\[X = \left\{ {{x_1}} \right\}\]$ ???

 Профиль  
                  
 
 Re: Вырожденный случай для функции правдоподобия.
Сообщение19.07.2012, 09:28 
Заслуженный участник
Аватара пользователя


11/03/08
9904
Москва
А что неожиданного? Проводим выкладки, получаем, что матожидание равно единственному наличному значению, дисперсия - нулю. А то, что половина ответа тривиальна, а вторая половина формально верна, но бессмыслена - следствие того, что Вы пытаетесь из одного наблюдения получить оценку сразу двух параметров.
Ну, а для прояснения давайте оживим картинку - положим, что исследователь, обнаружив, что может получить лишь одно измерение, впал в истерику, и записал его в журнал N раз (ну, или не в истерику, а так халтурил). Честно продублировав. Очевидно, функция правдоподобия от таких "N измерений" отличается от полученной по одному измерению лишь множителем N. И столь же очевидно, что любая оценка матожидания будет равна этому одному измерению, а оценка дисперсии - нулю. Независимо от применения оценки - матожидания, моментов и т.п.

 Профиль  
                  
Показать сообщения за:  Поле сортировки  
Начать новую тему Ответить на тему  [ Сообщений: 2 ] 

Модераторы: Модераторы Математики, Супермодераторы



Кто сейчас на конференции

Сейчас этот форум просматривают: нет зарегистрированных пользователей


Вы не можете начинать темы
Вы не можете отвечать на сообщения
Вы не можете редактировать свои сообщения
Вы не можете удалять свои сообщения
Вы не можете добавлять вложения

Найти:
Powered by phpBB © 2000, 2002, 2005, 2007 phpBB Group