Коэффициент корреляции

[AndreyXYZ]

Задача 1. Пусть $\xi_1,\xi_2$ --- дискретные случайные величины. $\mathsf{P}\{\xi_i=1\}=\mathsf{P}\{\xi_i=-1\}=1/2,\,i=\overline{1,2}$.
Коэффициент корреляции $\rho(\xi_1,\xi_2)=\rho$ известен. Пусть случайная величина $\xi_1$ приняла значение $1$. Найти

$$\mathsf{E}_{\xi_1=1}\xi_2$$

.

Моё решение.
$\mathsf{E}\xi_1=\mathsf{E}\xi_2=0$
$\mathsf{D}\xi_1=\mathsf{D}\xi_2=1$
По определению

$$\rho(\xi_1,\xi_2)=\frac{\mathsf{cov}(\xi_1,\xi_2)}{\sqrt{\mathsf{D}\xi_1\mathsf{D}\xi_2}}= \frac{\mathsf{E}\xi_1\xi_2-\mathsf{E}\xi_1\mathsf{E}\xi_2}{\sqrt{\mathsf{D}\xi_1\mathsf{D}\xi_2}}= \mathsf{E}\xi_1\xi_2$$

Т. о., $\mathsf{E}\xi_1\xi_2=\rho$.
$\mathsf{E}_{\xi_1=1}{\xi_1\xi_2}=\rho$ (в этой строчке я не уверен)
$\mathsf{E}_{\xi_1=1}{\xi_2}=\rho$

Задача 2. (условие составлено мной, поэтому может быть некорректным) Пусть $\xi_1,\xi_2,\xi_3$ --- дискретные случайные величины, $\mathsf{P}\{\xi_i=1\}=\mathsf{P}\{\xi_i=-1\}=1/2,\,i=\overline{1,3}$.
Коэффициенты корреляции $\rho(\xi_1,\xi_3)=\rho_1$ и $\rho(\xi_2,\xi_3)=\rho_2$ известны. Пусть $\xi_1$ и $\xi_2$ приняли значение $1$. Найти

$$\mathsf{E}_{\xi_1=1,\xi_2=1}\xi_3$$

Из решения задачи 1 следует
$\mathsf{E}_{\xi_1=1}{\xi_3}=\rho_1$
$\mathsf{E}_{\xi_2=1}{\xi_3}=\rho_2$
Что делать дальше? И можно ли вообще найти, что требуется?

[--mS--]

AndreyXYZ писал(а):

Задача 1. Пусть $\xi_1,\xi_2$ --- случайные величины, имеющие распределение

$$\xi_i \sim \begin{pmatrix} -1 & 1\\ \end{pmatrix}, \, i=\overline{1,2}$$

...
Пусть $\xi_1,\xi_2,\xi_3$ --- случайные величины, имеющие распределение

$$\xi_i \sim \begin{pmatrix} -1 & 1\\ 0,5 & 0,5\\ \end{pmatrix}, \, i=\overline{1,3}$$

Что это за распределения?

[ewert]

--mS-- в сообщении #178949 писал(а):

Что это за распределения?

Судя по контексту -- просто дискретные величины, каждая из которых может принимать только значения $\pm1$.

(а в первой матрице просто по рассеянности вторая строчка с половинками потерялась)

[AndreyXYZ]

Исправил, чтобы было понятнее. Запись в виде матрицы, у которой в верхней строке значения и в нижней --- вероятности, не является стандартной?

[ewert]

Да как Вам сказать. Кабы в виде таблички:

\begin{tabular}{|c|c|c|} \hline $x_k$ & -1 & 1\\ \hline $p_k$ &0.5 & 0.5 \\ \hline \end{tabular}

-- так вроде б и ничего. А матрицей -- сразу и не сообразишь...

[--mS--]

AndreyXYZ писал(а):

$\mathsf{E}_{\xi_1=1}{\xi_2}=\rho$

Ну, по крайней мере ответ верен. Вообще, для двух таких случайных величин с коэффициентом корреляции $\rho$ совместное распределение выглядит так:

$$\mathsf P(\xi_1=-1,\,\xi_2=-1)=\mathsf P(\xi_1=1,\,\xi_2=1) = \dfrac{1+\rho}{4},$$

$$\mathsf P(\xi_1=-1,\,\xi_2=1)=\mathsf P(\xi_1=1,\,\xi_2=-1) = \dfrac{1-\rho}{4},$$

поэтому (мне этот вид понадобится далее)

$$ \mathsf E(\xi_2~|~\xi_1=1) = (-1)\cdot \mathsf P(\xi_2=-1~|~\xi_1=1) + 1\cdot \mathsf P(\xi_2=1~|~\xi_1=1) = $$

$$ = -\dfrac{\mathsf P(\xi_1=1,\xi_2=-1)}{\mathsf P(\xi_1=1)}+\dfrac{\mathsf P(\xi_1=1,\xi_2=1)}{\mathsf P(\xi_1=1)} = - \dfrac{1-\rho}{2}+\dfrac{1+\rho}{2}=\rho. $$

По задаче 2.

AndreyXYZ писал(а):

...
Найти

$$\mathsf{E}_{\xi_1=1,\xi_2=1}\xi_3$$

По данным задачи найти это матожидание нельзя, т.к. оно зависит от вероятностей, с которыми $\xi_1, \xi_2, \xi_3$ принимают соответственно значения $1,1,1$ и $-1,1,1$, а эти вероятности даже при заданном коэффициенте корреляции между $\xi_1$ и $\xi_2$ определяются неоднозначно.

Действительно, искомое матожидание есть

$$ \mathsf E(\xi_3~|~\xi_1=1, \xi_2=1) = -\dfrac{\mathsf P(\xi_1=1,\xi_2=1,\xi_3=-1)}{\mathsf P(\xi_1=1,\xi_2=1)} +\dfrac{\mathsf P(\xi_1=1,\xi_2=1,\xi_3=1)}{\mathsf P(\xi_1=1,\xi_2=1)}.$$

Или, если обозначить $a=\mathsf P(\xi_1=1,\xi_2=1,\xi_3=1)$, $b=\mathsf P(\xi_1=1,\xi_2=1,\xi_3=-1)$, то
$\mathsf E(\xi_3~|~\xi_1=1, \xi_2=1) = \dfrac{a-b}{a+b}$.

Пусть, скажем, $\rho_1=\rho_2=1/2$. Для верности зафиксируем ещё и третий коэффициент корреляции: $\rho(\xi_1,\xi_2)=3/8$. Тогда, например, можно задать такие вероятности:
\begin{tabular}{c|c|c||c} $\xi_1$ & $\xi_2$ & $\xi_3$ & $\mathsf P$\\ \hline $\hphantom{-}1$ & $\hphantom{-}1$ & $\hphantom{-}1$ & $3/8$ \\ $\hphantom{-}1$ & $\hphantom{-}1$ & $-1$ & 0 \\ $\hphantom{-}1$ & $-1$ & $\hphantom{-}1$ & 0 \\ $\hphantom{-}1$ & $-1$ & $-1$ & $1/8$ \\ $-1$ & $\hphantom{-}1$ & $\hphantom{-}1$ & 0 \\ $-1$ & $\hphantom{-}1$ & $-1$ & $1/8$ \\ $-1$ & $-1$ & $\hphantom{-}1$ & $1/8$ \\ $-1$ & $-1$ & $-1$ & $1/4$ \end{tabular}
Можно проверить, что все маргинальные вероятности равны 1/2, все коэффициенты корреляции как заказывали. При этом $\mathsf E(\xi_3~|~\xi_1=1, \xi_2=1) = \dfrac{a-b}{a+b} = 1$.
А можно, не трогая трёх коэффициентов корреляции, взять такое совместное распределение:
\begin{tabular}{c|c|c||c} $\xi_1$ & $\xi_2$ & $\xi_3$ & $\mathsf P$\\ \hline $\hphantom{-}1$ & $\hphantom{-}1$ & $\hphantom{-}1$ & $5/16$ \\ $\hphantom{-}1$ & $\hphantom{-}1$ & $-1$ & $1/16$ \\ $\hphantom{-}1$ & $-1$ & $\hphantom{-}1$ & $1/16$ \\ $\hphantom{-}1$ & $-1$ & $-1$ & $1/16$ \\ $-1$ & $\hphantom{-}1$ & $\hphantom{-}1$ & $1/16$ \\ $-1$ & $\hphantom{-}1$ & $-1$ & $1/16$ \\ $-1$ & $-1$ & $\hphantom{-}1$ & $1/16$ \\ $-1$ & $-1$ & $-1$ & $5/16$ \end{tabular}
Тогда $\mathsf E(\xi_3~|~\xi_1=1, \xi_2=1) = \dfrac{a-b}{a+b} = 2/3$.

[AndreyXYZ]

Спасибо! Написано понятно и красиво. Вы привели два примера, когда матожидания различны, а коэффициенты корреляции одни и те же. Жаль, что нельзя точно вычислить матожидание. А можно ли его хотя бы оценить?

AndreyXYZ в сообщении #178948 писал(а):

Задача 2. (условие составлено мной, поэтому может быть некорректным) Пусть $\xi_1,\xi_2,\xi_3$ --- дискретные случайные величины, $\mathsf{P}\{\xi_i=1\}=\mathsf{P}\{\xi_i=-1\}=1/2,\,i=\overline{1,3}$.
Коэффициенты корреляции $\rho(\xi_1,\xi_3)=\rho_1$ и $\rho(\xi_2,\xi_3)=\rho_2$ известны. Пусть $\xi_1$ и $\xi_2$ приняли значение $1$. Найти

$$\mathsf{E}_{\xi_1=1,\xi_2=1}\xi_3$$

Немного переформулируем условие задачи 2. Пусть, в добавок ко всему, $\rho_1>0$, $\rho_2>0$. Требуется оценить условное матожидание (поправьте меня, если неправильно называю) $\mathsf{E}(\xi_3\,|\,\xi_1=1,\xi_2=1)$

Как мне кажется, оно должно быть больше нуля.

[--mS--]

AndreyXYZ писал(а):

Немного переформулируем условие задачи 2. Пусть, в добавок ко всему, $\rho_1>0$, $\rho_2>0$. Требуется оценить условное матожидание (поправьте меня, если неправильно называю) $\mathsf{E}(\xi_3\,|\,\xi_1=1,\xi_2=1)$

Как мне кажется, оно должно быть больше нуля.

Вот тут я уже не знаю, что можно сделать. Конечно же, на третий коэффициент корреляции естественные ограничения есть - хотя бы из положительной определённости матрицы ковариаций вектора из этих трёх с.в. И из них следуют какие-то ограничения на вероятности трёх единиц и т.д. Но вылавливать их из системы с восемью неизвестными вероятностями не хочется.

Кстати, в первой матрице вероятностей у меня выше, кажется, с последними двумя строчками что-то не так. Но проверять лень, т.к. сути дела не меняет.

[AndreyXYZ]

Неужели нельзя утверждать, что матожидание больше нуля? Ведь это же почти очевидно.
Не понял про матрицу ковариаций. Не могли бы Вы её выписать?

[--mS--]

AndreyXYZ писал(а):

Неужели нельзя утверждать, что матожидание больше нуля? Ведь это же почти очевидно.
Не понял про матрицу ковариаций. Не могли бы Вы её выписать?

Взаимно не понимаю вопроса. По определению (дисперсии у всех с.в. единичные):

$$ \begin{pmatrix} 1 & \rho(\xi_1,\xi_2) & \rho_1 \\ \rho(\xi_1,\xi_2) & 1 & \rho_2 \\ \rho_1 & \rho_2 & 1 \end{pmatrix} $$

Не вижу, откуда бы следовала положительность рассматриваемого матожидания.

[AndreyXYZ]

А вы можете, если не труно, привести пример распределения, при котором это матожидание будет отрицательным?

[--mS--]

Было бы не трудно, он уже был бы приведён. Выписываете 8 вероятностей $p_{i,j,k}=\mathsf P(\xi_1=i, \xi_2=j, \xi_3=k)$, выписываете для них систему уравнений и/или неравенств типа:

$$ \begin{cases} p_{1,1,1}+p_{1,1,-1}+p_{1,-1,1}+p_{1,-1,-1}=\frac12, & \\[1mm] p_{1,1,1}+p_{1,1,-1}+p_{-1,1,1}+p_{-1,1,-1}=\frac12, & \\[1mm] p_{1,1,1}+p_{1,-1,1}+p_{-1,1,1}+p_{-1,-1,1}=\frac12, & \\[1mm] p_{-1,1,-1}+p_{-1,-1,-1}=\frac{1+\rho_3}{4} \geqslant \frac14, & \\[1mm] p_{1,-1,-1}+p_{-1,-1,-1}=\frac{1+\rho_2}{4}\geqslant \frac14, & \\[1mm] p_{1,1,1}+p_{1,1,-1}+p_{1,-1,1}+p_{1,-1,-1}+p_{-1,1,1}+p_{-1,1,-1}+p_{-1,-1,1}+p_{-1,-1,-1}=1 \end{cases} $$

и исследуете свойства её решений и потом дроби $\mathsf E(\xi_3\,|\,\xi_1=1,\xi_2=1)=\frac{p_{1,1,1} - p_{1,1,-1}}{p_{1,1,1}+p_{1,1,-1}}$. Если всегда получается $p_{1,1,1} \geqslant p_{1,1,-1}$, то и матожидание неотрицательно.

Способ безумно глупый, но я другого не вижу. Может быть, кто-нибудь ещё захочет посмотреть? Явно должны существовать какие-то простые способы или неравенства.