2014 dxdy logo

Научный форум dxdy

Математика, Физика, Computer Science, Machine Learning, LaTeX, Механика и Техника, Химия,
Биология и Медицина, Экономика и Финансовая Математика, Гуманитарные науки


Правила форума


В этом разделе нельзя создавать новые темы.

Если Вы хотите задать новый вопрос, то не дописывайте его в существующую тему, а создайте новую в корневом разделе "Помогите решить/разобраться (М)".

Если Вы зададите новый вопрос в существующей теме, то в случае нарушения оформления или других правил форума Ваше сообщение и все ответы на него могут быть удалены без предупреждения.

Не ищите на этом форуме халяву, правила запрещают участникам публиковать готовые решения стандартных учебных задач. Автор вопроса обязан привести свои попытки решения и указать конкретные затруднения.

Обязательно просмотрите тему Правила данного раздела, иначе Ваша тема может быть удалена или перемещена в Карантин, а Вы так и не узнаете, почему.



Начать новую тему Ответить на тему
 
 Теорема Гаусса-Маркова и неравенство Рао-Крамера
Сообщение13.01.2011, 17:50 
Заслуженный участник
Аватара пользователя


11/04/08
2741
Физтех
Теорема Гаусса-Маркова: среди класса несмещенных линейных оценок вектора $x$ из $\[Y = Ax + E\]$, метод наименьших квадратов доставляет оценку, все компоненты которой имеют дисперсии, не большие, чем дисперсии соответствующих компонент любой другой оценки.

Но можно легко показать, что м.н.к.-оценка -- эффективная. Разве отсюда не следует утверждение теоремы Гаусса-Маркова? Почему в книжках ее как-то доказывают не ссылаясь на неравенство Рао-Крамера?

 Профиль  
                  
 
 Re: Теорема Гаусса-Маркова и неравенство Рао-Крамера
Сообщение13.01.2011, 19:58 


30/05/10
59
ShMaxG в сообщении #399406 писал(а):
Теорема Гаусса-Маркова: среди класса несмещенных линейных оценок вектора $x$ из $\[Y = Ax + E\]$, метод наименьших квадратов доставляет оценку, все компоненты которой имеют дисперсии, не большие, чем дисперсии соответствующих компонент любой другой оценки.

Но можно легко показать, что м.н.к.-оценка -- эффективная. Разве отсюда не следует утверждение теоремы Гаусса-Маркова? Почему в книжках ее как-то доказывают не ссылаясь на неравенство Рао-Крамера?

OLS-оценка является BLUE вне зависимости от распределения остатков, а при нормально распределенных остатках OLS-оценка достигает нижней границы Рао-Крамера. В данном случае МНК (OLS) является самой эффективной среди всех несмещенных оценок. (объяснений не требуйте, списано из конспекта... :| )

 Профиль  
                  
 
 Re: Теорема Гаусса-Маркова и неравенство Рао-Крамера
Сообщение13.01.2011, 21:10 
Заслуженный участник


08/09/07
841
Часто в формулировке теоремы Гаусса-Маркова пишут что оценка является эффективной. То есть да, теорема следует из доказательства эффективности.

 Профиль  
                  
 
 Re: Теорема Гаусса-Маркова и неравенство Рао-Крамера
Сообщение13.01.2011, 21:17 
Заслуженный участник
Аватара пользователя


23/11/06
4171
ShMaxG в сообщении #399406 писал(а):
Теорема Гаусса-Маркова: среди класса несмещенных линейных оценок вектора $x$ из $\[Y = Ax + E\]$,

Вектора $A$, надо полагать?
ShMaxG в сообщении #399406 писал(а):
Но можно легко показать, что м.н.к.-оценка -- эффективная. Разве отсюда не следует утверждение теоремы Гаусса-Маркова? Почему в книжках ее как-то доказывают не ссылаясь на неравенство Рао-Крамера?

Вот стандартное доказательство http://en.wikipedia.org/wiki/Gauss-Markov_theorem
А как именно Вы предлагаете доказывать эффективность м.н.к. с помощью неравенства Рао - Крамера (многомерного, надо полагать)?

 Профиль  
                  
 
 Re: Теорема Гаусса-Маркова и неравенство Рао-Крамера
Сообщение13.01.2011, 21:24 
Заслуженный участник
Аватара пользователя


11/04/08
2741
Физтех
--mS-- в сообщении #399524 писал(а):
Вектора $A$, надо полагать?

Нет, $A$ - это матрица (вообще говоря).

--mS-- в сообщении #399524 писал(а):
А как именно Вы предлагаете доказывать эффективность м.н.к. с помощью неравенства Рао - Крамера (многомерного, надо полагать)?

Конечно многомерного :-) Вычислю матрицу в правой части в неравенстве и в левой. И увижу, что корреляционная матрица м.н.к.-оценки тождественно равна матрице, которая стоит в другой части неравенства. Это у нас даже на лекции делалось.

 Профиль  
                  
 
 Re: Теорема Гаусса-Маркова и неравенство Рао-Крамера
Сообщение13.01.2011, 21:31 
Заслуженный участник
Аватара пользователя


23/11/06
4171
ShMaxG в сообщении #399528 писал(а):
Нет, $A$ - это матрица.

Обычно иксом всё же наблюдения называют...

ShMaxG в сообщении #399528 писал(а):
Конечно многомерного :-) Вычислю правую часть в неравенстве и левую. И увижу, что корреляционная матрица м.н.к.-оценки тождественно равна матрице, которая стоит в другой части неравенства.

Ну то есть будет делать всё, что делается в стандартном доказательстве (и матрицу ковариаций вычислять, и т.п.), но вдобавок к методам обычной линейной алгебры Вам понадобится ещё и тяжёлая артиллерия в виде многомерного неравенства Р.-К.?

Надеюсь, это достаточный ответ.

 Профиль  
                  
 
 Re: Теорема Гаусса-Маркова и неравенство Рао-Крамера
Сообщение13.01.2011, 21:36 
Заслуженный участник
Аватара пользователя


11/04/08
2741
Физтех
Аа, кажется я понял. При использовании неравенства Рао-Крамера мы существенно пользуемся нормальностью $Y$ и вообще нормальностью ошибки $E$. А в Гауссе-Маркове лишь зачением матожидания и дисперсии ошибки. Т.е. эта теорема менее требовательна.

-- Чт янв 13, 2011 21:37:33 --

--mS-- в сообщении #399534 писал(а):
но вдобавок к методам обычной линейной алгебры Вам понадобится ещё и тяжёлая артиллерия в виде многомерного неравенства Р.-К.

Это то, что зашито в это док-ве этого неравенства, да.

-- Чт янв 13, 2011 21:37:44 --

Спасибо!

 Профиль  
                  
 
 Re: Теорема Гаусса-Маркова и неравенство Рао-Крамера
Сообщение13.01.2011, 21:39 
Заслуженный участник
Аватара пользователя


23/11/06
4171
ShMaxG в сообщении #399539 писал(а):
Аа, кажется я понял. При использовании неравенства Рао-Крамера мы существенно пользуемся нормальностью $Y$ и вообще нормальностью ошибки $E$.

Да и для нормальных - доказывать простое матричное свойство через теоремы, которые математикам-то редко где читают, не имеет смысла.

 Профиль  
                  
Показать сообщения за:  Поле сортировки  
Начать новую тему Ответить на тему  [ Сообщений: 8 ] 

Модераторы: Модераторы Математики, Супермодераторы



Кто сейчас на конференции

Сейчас этот форум просматривают: нет зарегистрированных пользователей


Вы не можете начинать темы
Вы не можете отвечать на сообщения
Вы не можете редактировать свои сообщения
Вы не можете удалять свои сообщения
Вы не можете добавлять вложения

Найти:
Powered by phpBB © 2000, 2002, 2005, 2007 phpBB Group