2014 dxdy logo

Научный форум dxdy

Математика, Физика, Computer Science, Machine Learning, LaTeX, Механика и Техника, Химия,
Биология и Медицина, Экономика и Финансовая Математика, Гуманитарные науки




 
 Теорема Гаусса-Маркова и неравенство Рао-Крамера
Сообщение13.01.2011, 17:50 
Аватара пользователя
Теорема Гаусса-Маркова: среди класса несмещенных линейных оценок вектора $x$ из $\[Y = Ax + E\]$, метод наименьших квадратов доставляет оценку, все компоненты которой имеют дисперсии, не большие, чем дисперсии соответствующих компонент любой другой оценки.

Но можно легко показать, что м.н.к.-оценка -- эффективная. Разве отсюда не следует утверждение теоремы Гаусса-Маркова? Почему в книжках ее как-то доказывают не ссылаясь на неравенство Рао-Крамера?

 
 
 
 Re: Теорема Гаусса-Маркова и неравенство Рао-Крамера
Сообщение13.01.2011, 19:58 
ShMaxG в сообщении #399406 писал(а):
Теорема Гаусса-Маркова: среди класса несмещенных линейных оценок вектора $x$ из $\[Y = Ax + E\]$, метод наименьших квадратов доставляет оценку, все компоненты которой имеют дисперсии, не большие, чем дисперсии соответствующих компонент любой другой оценки.

Но можно легко показать, что м.н.к.-оценка -- эффективная. Разве отсюда не следует утверждение теоремы Гаусса-Маркова? Почему в книжках ее как-то доказывают не ссылаясь на неравенство Рао-Крамера?

OLS-оценка является BLUE вне зависимости от распределения остатков, а при нормально распределенных остатках OLS-оценка достигает нижней границы Рао-Крамера. В данном случае МНК (OLS) является самой эффективной среди всех несмещенных оценок. (объяснений не требуйте, списано из конспекта... :| )

 
 
 
 Re: Теорема Гаусса-Маркова и неравенство Рао-Крамера
Сообщение13.01.2011, 21:10 
Часто в формулировке теоремы Гаусса-Маркова пишут что оценка является эффективной. То есть да, теорема следует из доказательства эффективности.

 
 
 
 Re: Теорема Гаусса-Маркова и неравенство Рао-Крамера
Сообщение13.01.2011, 21:17 
Аватара пользователя
ShMaxG в сообщении #399406 писал(а):
Теорема Гаусса-Маркова: среди класса несмещенных линейных оценок вектора $x$ из $\[Y = Ax + E\]$,

Вектора $A$, надо полагать?
ShMaxG в сообщении #399406 писал(а):
Но можно легко показать, что м.н.к.-оценка -- эффективная. Разве отсюда не следует утверждение теоремы Гаусса-Маркова? Почему в книжках ее как-то доказывают не ссылаясь на неравенство Рао-Крамера?

Вот стандартное доказательство http://en.wikipedia.org/wiki/Gauss-Markov_theorem
А как именно Вы предлагаете доказывать эффективность м.н.к. с помощью неравенства Рао - Крамера (многомерного, надо полагать)?

 
 
 
 Re: Теорема Гаусса-Маркова и неравенство Рао-Крамера
Сообщение13.01.2011, 21:24 
Аватара пользователя
--mS-- в сообщении #399524 писал(а):
Вектора $A$, надо полагать?

Нет, $A$ - это матрица (вообще говоря).

--mS-- в сообщении #399524 писал(а):
А как именно Вы предлагаете доказывать эффективность м.н.к. с помощью неравенства Рао - Крамера (многомерного, надо полагать)?

Конечно многомерного :-) Вычислю матрицу в правой части в неравенстве и в левой. И увижу, что корреляционная матрица м.н.к.-оценки тождественно равна матрице, которая стоит в другой части неравенства. Это у нас даже на лекции делалось.

 
 
 
 Re: Теорема Гаусса-Маркова и неравенство Рао-Крамера
Сообщение13.01.2011, 21:31 
Аватара пользователя
ShMaxG в сообщении #399528 писал(а):
Нет, $A$ - это матрица.

Обычно иксом всё же наблюдения называют...

ShMaxG в сообщении #399528 писал(а):
Конечно многомерного :-) Вычислю правую часть в неравенстве и левую. И увижу, что корреляционная матрица м.н.к.-оценки тождественно равна матрице, которая стоит в другой части неравенства.

Ну то есть будет делать всё, что делается в стандартном доказательстве (и матрицу ковариаций вычислять, и т.п.), но вдобавок к методам обычной линейной алгебры Вам понадобится ещё и тяжёлая артиллерия в виде многомерного неравенства Р.-К.?

Надеюсь, это достаточный ответ.

 
 
 
 Re: Теорема Гаусса-Маркова и неравенство Рао-Крамера
Сообщение13.01.2011, 21:36 
Аватара пользователя
Аа, кажется я понял. При использовании неравенства Рао-Крамера мы существенно пользуемся нормальностью $Y$ и вообще нормальностью ошибки $E$. А в Гауссе-Маркове лишь зачением матожидания и дисперсии ошибки. Т.е. эта теорема менее требовательна.

-- Чт янв 13, 2011 21:37:33 --

--mS-- в сообщении #399534 писал(а):
но вдобавок к методам обычной линейной алгебры Вам понадобится ещё и тяжёлая артиллерия в виде многомерного неравенства Р.-К.

Это то, что зашито в это док-ве этого неравенства, да.

-- Чт янв 13, 2011 21:37:44 --

Спасибо!

 
 
 
 Re: Теорема Гаусса-Маркова и неравенство Рао-Крамера
Сообщение13.01.2011, 21:39 
Аватара пользователя
ShMaxG в сообщении #399539 писал(а):
Аа, кажется я понял. При использовании неравенства Рао-Крамера мы существенно пользуемся нормальностью $Y$ и вообще нормальностью ошибки $E$.

Да и для нормальных - доказывать простое матричное свойство через теоремы, которые математикам-то редко где читают, не имеет смысла.

 
 
 [ Сообщений: 8 ] 


Powered by phpBB © 2000, 2002, 2005, 2007 phpBB Group