2014 dxdy logo

Научный форум dxdy

Математика, Физика, Computer Science, Machine Learning, LaTeX, Механика и Техника, Химия,
Биология и Медицина, Экономика и Финансовая Математика, Гуманитарные науки




 
 Вырожденный случай для функции правдоподобия.
Сообщение18.07.2012, 21:11 
Аватара пользователя
Помогите понять вырожденный случай.
С невырожденным случаем все понятно.
Пусть дана выборка случайных величин i.i.d. (закон распределения нормальный)
$
\[X = \left\{ {{x_1}...{x_n}} \right\}\]$
тогда для него считаем функцию правдоподобия
$% MathType!MTEF!2!1!+-
% feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbdfgBPj
% MCPbqedmvETj2BSbqefm0B1jxALjhiov2DaebbnrfifHhDYfgasaac
% H8srps0lbbf9q8WrFfeuY-Hhbbf9v8qqaqFr0xc9pk0xbba9q8WqFf
% ea0-yr0RYxir-Jbba9q8aq0-yq-He9q8qqQ8frFve9Fve9Ff0dmeaa
% baqaciGacaGaaeqabaWaaeaaeaaakabbaaaaaaaaxxo8TVF6a8qaba
% GaamitaiaacIcacqaH4oqCcaGGPaGaeyypa0JaamiCaiaacIcacaWG
% ybGaaiiFaiabeI7aXjaacMcaaaa!43A9!
\[L(\theta ) = p(X|\theta )\]$
$% MathType!MTEF!2!1!+-
% feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbdfgBPj
% MCPbqedmvETj2BSbqefm0B1jxALjhiov2DaebbnrfifHhDYfgasaac
% H8srps0lbbf9q8WrFfeuY-Hhbbf9v8qqaqFr0xc9pk0xbba9q8WqFf
% ea0-yr0RYxir-Jbba9q8aq0-yq-He9q8qqQ8frFve9Fve9Ff0dmeaa
% baqaciGacaGaaeqabaWaaeaaeaaakabbaaaaaaaaxxo8TVF6a8qaba
% GaamitaiaacIcacqaH4oqCcaGGPaGaeyypa0JaamiCaiaacIcacaWG
% ybGaaiiFaiabeI7aXjaacMcacqGH9aqpdaqeWbqaaiaadchacaGGOa
% GaamiEamaaBaaaleaacaWGUbaabeaakiaacYhacqaH4oqCcaGGPaaa
% leaacaWGUbGaeyypa0JaaGymaaqaaiaad6eaa0Gaey4dIunaaaa!5191!
\[L(\theta ) = p(X|\theta ) = \prod\limits_{n = 1}^N {p({x_n}|\theta )} \]$
потом логарифмируем, и находим частную производную и находим приравниваем ее к нулю и
$% MathType!MTEF!2!1!+-
% feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbdfgBPj
% MCPbqedmvETj2BSbqefm0B1jxALjhiov2DaebbnrfifHhDYfgasaac
% H8srps0lbbf9q8WrFfeuY-Hhbbf9v8qqaqFr0xc9pk0xbba9q8WqFf
% ea0-yr0RYxir-Jbba9q8aq0-yq-He9q8qqQ8frFve9Fve9Ff0dmeaa
% baqaciGacaGaaeqabaWaaeaaeaaakabbaaaaaaaaxxo8TVF6a8qaea
% qabeaaciGGSbGaai4BaiaacEgacaWGmbGaaiikaiabeI7aXjaacMca
% cqGH9aqpciGGSbGaai4BaiaacEgacaWGWbGaaiikaiaadIfacaGG8b
% GaeqiUdeNaaiykaiabg2da9maaqahabaaaleaacaWGUbGaeyypa0Ja
% aGymaaqaaiaad6eaa0GaeyyeIuoakiGacYgacaGGVbGaai4zaiaadc
% hacaGGOaGaamiEamaaBaaaleaacaWGUbaabeaakiaacYhacqaH8oqB
% caGGSaGaeq4WdmNaaiykaaqaaiabeY7aTjaacYcacaaMf8Uaamioei
% aaywW7cqaHdpWCaaaa!649C!
\[\begin{array}{l}
\log L(\theta ) = \log p(X|\theta ) = \sum\limits_{n = 1}^N {} \log p({x_n}|\mu ,\sigma )
\end{array}\]$
находим
значения
$% MathType!MTEF!2!1!+-
% feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbdfgBPj
% MCPbqedmvETj2BSbqefm0B1jxALjhiov2DaebbnrfifHhDYfgasaac
% H8srps0lbbf9q8WrFfeuY-Hhbbf9v8qqaqFr0xc9pk0xbba9q8WqFf
% ea0-yr0RYxir-Jbba9q8aq0-yq-He9q8qqQ8frFve9Fve9Ff0dmeaa
% baqaciGacaGaaeqabaWaaeaaeaaakabbaaaaaaaaxxo8TVF6a8qaba
% GaeqiVd0Maaiilaiabeo8aZbaa!3D0B!
\[\mu ,\sigma \]$
Как быть в вырожденном случае, то есть если

$% MathType!MTEF!2!1!+-
% feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbdfgBPj
% MCPbqedmvETj2BSbqefm0B1jxALjhiov2DaebbnrfifHhDYfgasaac
% H8srps0lbbf9q8WrFfeuY-Hhbbf9v8qqaqFr0xc9pk0xbba9q8WqFf
% ea0-yr0RYxir-Jbba9q8aq0-yq-He9q8qqQ8frFve9Fve9Ff0dmeaa
% baqaciGacaGaaeqabaWaaeaaeaaakabbaaaaaaaaxxo8TVF6a8qaba
% Gaamiwaiabg2da9maacmaabaGaamiEamaaBaaaleaacaaIXaaabeaa
% aOGaay5Eaiaaw2haaaaa!3EE4!
\[X = \left\{ {{x_1}} \right\}\]$ ???

 
 
 
 Re: Вырожденный случай для функции правдоподобия.
Сообщение19.07.2012, 09:28 
Аватара пользователя
А что неожиданного? Проводим выкладки, получаем, что матожидание равно единственному наличному значению, дисперсия - нулю. А то, что половина ответа тривиальна, а вторая половина формально верна, но бессмыслена - следствие того, что Вы пытаетесь из одного наблюдения получить оценку сразу двух параметров.
Ну, а для прояснения давайте оживим картинку - положим, что исследователь, обнаружив, что может получить лишь одно измерение, впал в истерику, и записал его в журнал N раз (ну, или не в истерику, а так халтурил). Честно продублировав. Очевидно, функция правдоподобия от таких "N измерений" отличается от полученной по одному измерению лишь множителем N. И столь же очевидно, что любая оценка матожидания будет равна этому одному измерению, а оценка дисперсии - нулю. Независимо от применения оценки - матожидания, моментов и т.п.

 
 
 [ Сообщений: 2 ] 


Powered by phpBB © 2000, 2002, 2005, 2007 phpBB Group