2014 dxdy logo

Научный форум dxdy

Математика, Физика, Computer Science, Machine Learning, LaTeX, Механика и Техника, Химия,
Биология и Медицина, Экономика и Финансовая Математика, Гуманитарные науки


Правила форума


В этом разделе нельзя создавать новые темы.

Если Вы хотите задать новый вопрос, то не дописывайте его в существующую тему, а создайте новую в корневом разделе "Помогите решить/разобраться (М)".

Если Вы зададите новый вопрос в существующей теме, то в случае нарушения оформления или других правил форума Ваше сообщение и все ответы на него могут быть удалены без предупреждения.

Не ищите на этом форуме халяву, правила запрещают участникам публиковать готовые решения стандартных учебных задач. Автор вопроса обязан привести свои попытки решения и указать конкретные затруднения.

Обязательно просмотрите тему Правила данного раздела, иначе Ваша тема может быть удалена или перемещена в Карантин, а Вы так и не узнаете, почему.



Начать новую тему Ответить на тему
 
 Дисперсия условного мат. ожидания
Сообщение05.12.2015, 19:18 


17/12/13
8
Пусть $X^{(1)}, X^{(2)}$ случайные векторы с совместным распределением.

Я не знаю, как лучше представить следующее выражение: $\mathsf{D}[\mathsf{E}(X^{(1)}|X^{(2)})]$.

Возможно ли воспользоваться тем фактом, что УМО это проекция, т.е. $\mathsf{E}(X^{(1)}|X^{(2)}) = AX^{(2)} + b?$ Я думаю, что нет.

Это нужно для доказательства такого неравенства:

$Q_{12}Q_{22}^{-1}Q_{21} \leq \mathsf{D}[\mathsf{E}(X^{(1)}|X^{(2)})]$, где

$Q_{ij}=\mathsf{E}(X^{(i)} - \mathsf{E}X^{(i)})(X^{(j)} - \mathsf{E}X^{(j)})^T , i,j = 1,2.$

Можете что-нибудь подсказать?

 Профиль  
                  
 
 Re: Дисперсия условного мат. ожидания
Сообщение06.12.2015, 09:06 
Заслуженный участник
Аватара пользователя


23/11/06
4148
Blendamed в сообщении #1079765 писал(а):
Возможно ли воспользоваться тем фактом, что УМО это проекция, т.е. $\mathsf{E}(X^{(1)}|X^{(2)}) = AX^{(2)} + b?$ Я думаю, что нет.


Вы имеете в виду совместное нормальное распределение?

Вообще, на мой взгляд, вместо неравенства в этом случае имеет место равенство. Выражение для коэффициента $A$ Вам должно быть известно: $A=Q_{12}Q_{22}^{-1}$. Вот и сосчитайте ковариационную матрицу вектора $AX^{(2)} +b$.

 Профиль  
                  
 
 Re: Дисперсия условного мат. ожидания
Сообщение06.12.2015, 12:56 


17/12/13
8
--mS--, в общем случае не предполагается, что нормальное, поэтому должно быть как раз-таки неравенство, но если и только если УМО -- регрессия $X^{(1)}$ по $X^{(2)}$ (линейная по $X^{(2)}$ функция, т.е. видимо то же, что и нормальное распределение дает), то должно получиться равенство.

Я бы сказал, что $A = Q_{12}Q_{22}^{-1/2} в этом случае.$

Но если все-таки рассматривать общий случай, возможно ли пользоваться тем соотношением на УМО, которое я написал (вектор $b$ будет каким-нибудь случайным)?

 Профиль  
                  
 
 Re: Дисперсия условного мат. ожидания
Сообщение06.12.2015, 14:22 


17/12/13
8
А, нет, $A = Q_{12}Q_{22}^{-1}$, действительно.

 Профиль  
                  
 
 Re: Дисперсия условного мат. ожидания
Сообщение06.12.2015, 15:17 
Заслуженный участник
Аватара пользователя


23/11/06
4148
Blendamed в сообщении #1079882 писал(а):
Но если все-таки рассматривать общий случай, возможно ли пользоваться тем соотношением на УМО, которое я написал (вектор $b$ будет каким-нибудь случайным)?

Конечно, нет. Условное математическое ожидание не есть, вообще говоря, линейная функция от условия. Например, УМО $\mathsf E(X^2|X)=X^2$ п.н. (где $X$ - случайная величина с конечным вторым моментом).

Следует пользоваться свойствами УМО $\hat{X}=\mathsf E(X^{(1)}|X^{(2)})$. Например, в одномерном случае неравенство легко следует из того, что:
1) $X^{(1)}-\hat{X}$ ортогонально любой измеримой функции с конечным вторым моментом от вектора $X^{(2)}$. В частности, $\mathsf E\left((X^{(1)}-\hat{X})(X^{(2)}-\mathsf EX^{(2)})\right)=0$.
2) $$\mathsf DX^{(1)}=\mathsf E(X^{(1)}-\mathsf EX^{(1)})^2=\mathsf E(X^{(1)}-\hat X + \hat X-\mathsf EX^{(1)})^2=$$
$$=\mathsf E(X^{(1)}-\hat X)^2 + \mathsf E(\hat X-\mathsf EX^{(1)})^2=\mathsf E(X^{(1)}-\hat X)^2 + \mathsf E(\hat X-\mathsf E\hat X)^2 \geq \mathsf D\hat X.$$

Поэтому $\textrm{cov}^2(X^{(1)}, X^{(2)})\leq \mathsf DX^{(1)}\mathsf DX^{(2)}\leq \mathsf D\hat X\cdot \mathsf DX^{(2)}.$ А это и есть нужное неравенство.

 Профиль  
                  
 
 Re: Дисперсия условного мат. ожидания
Сообщение06.12.2015, 15:58 


17/12/13
8
--mS--, вы же получили, что $\mathsf D \hat{X} \leq\mathsf D X^{(1)}\, тогда переход в последнем неравенстве неверный, по-моему.

 Профиль  
                  
 
 Re: Дисперсия условного мат. ожидания
Сообщение06.12.2015, 19:17 
Заслуженный участник
Аватара пользователя


23/11/06
4148
Ой, правда, прошу прощения. Ну тогда всё куда проще: По первому из свойств УМО, $\mathsf E((X^{(1)}-\hat X)X^{(2)})=0$, а это означает, что
$$\mathsf E(X^{(2)}\cdot \hat X) = \mathsf E(X^{(2)}\cdot X^{(1)}),$$
поэтому ковариации $\textrm{cov}(X^{(1)}, X^{(2)})$ и $\textrm{cov}(\hat X, X^{(2)})$ просто совпадают. И можно неравенство Коши - Буняковского применить не к первой, а ко второй ковариации.
$$\textrm{cov}(X^{(1)}, X^{(2)}) = \textrm{cov}^2(\hat X, X^{(2)})\leq \mathsf D\hat X \cdot \mathsf DX^{(2)}.$$

 Профиль  
                  
 
 Re: Дисперсия условного мат. ожидания
Сообщение06.12.2015, 20:10 


17/12/13
8
--mS--, понял, спасибо!

 Профиль  
                  
Показать сообщения за:  Поле сортировки  
Начать новую тему Ответить на тему  [ Сообщений: 8 ] 

Модераторы: Модераторы Математики, Супермодераторы



Кто сейчас на конференции

Сейчас этот форум просматривают: нет зарегистрированных пользователей


Вы не можете начинать темы
Вы не можете отвечать на сообщения
Вы не можете редактировать свои сообщения
Вы не можете удалять свои сообщения
Вы не можете добавлять вложения

Найти:
Powered by phpBB © 2000, 2002, 2005, 2007 phpBB Group