Теоремы о корреляционном моменте

[Anton_Peplov]

Как известно, корреляционным моментом случайных величин $X$ и $Y$, имеющих математические ожидания $m_x$ и $m_y$, называется математическое ожидание случайной величины $B = (X - m_x)(Y - m_y)$. Величины, корреляционный момент которых отличен от нуля, называются коррелированными. Известно, что коррелированность величин - достаточное, но не необходимое условие их зависимости. То есть корреляция говорит о зависимости, отсутствие корреляции ни о чем не говорит (разве что об отсутствии функциональной линейной зависимости).
Я задался вопросом о корреляции случайной величины с неслучайной функцией от нее. Зависимость налицо, причем самая жесткая - функциональная. Вопрос, для каких функций корреляционный момент выявляет, а для каких не выявляет этой зависимости. У меня получилась на этот счет одна теорема и одна гипотеза. Не сомневаюсь, что, если они верны, они широко известны, но в учебниках по теории вероятности, которые я читал, их не было (возможно, они есть в учебниках матстатистики - до нее я пока не добрался). Теорему я прошу проверить (я мог ошибиться в доказательстве), а про гипотезу я хочу спросить, верна ли она.

Рассмотрим дискретную случайную величину $X$. Случайная величина называется дискретной, если существует лишь конечное множество $\{x\}$, значения из которого она принимает с отличной от нуля вероятностью, причем сумма вероятностей по всем элементам $\{x\}$ равна единице. Рассмотрим определенную на $\{x\}$ функцию $p(x)$ - вероятность значения $x$.

Теорема. Пусть $X$ - дискретная случайная величина, $\{x\}$ - множество ее возможных значений и $p(x)$ - вероятность значения $x$. Пусть $\varphi(x)$ - неслучайная функция. Если $p(x)$ и $\varphi(x)$ - четные функции, причем $0\notin \{x\}$, $X$ и $\varphi(X)$ некоррелированы.

Доказательство.
Пусть $\{x\}$ содержит $2n$ значений: $x_1; -x_1; x_2; -x_2;... ; x_n; -x_n$.
В силу четности $p(x)$ и условия $0\notin \{x\}$ верно $m_x = 0$, поэтому $x_i - m_x = x_i$. Вероятность значения $x_i$ обозначим $p_i$. В силу того, что $\varphi(X)$ - неслучайная функция, а также четности $\varphi(x)$ и $p(x)$, вероятность пары $(x_i, \varphi(x_i))$ равна $p(x_i, \varphi(x_i)) = p(-x_i, \varphi(x_i)) = p_i$, в то время как при $i\ne j$ верно $p(x_i, \varphi(x_j)) =0$.
Тогда корреляционный момент $X$ и $\varphi(X)$ равен

$$K_{x \varphi} = \sum\limits_{i=1}^{n}p_i [x_i (\varphi(x_i) - m_\varphi) - x_i (\varphi(x_i) - m_\varphi)] = 0 $$

Теорема доказана.

Математически эта теорема тривиальна, но она кажется мне удобной иллюстрацией недостатков корреляционного момента. Ибо класс четных функций весьма обширен - это $y = x^2$, $y = \cos x$ и т.д. Но это - если я нигде не ошибся в доказательстве. А я нигде не ошибся?

Гипотеза. Пусть $X$ - равномерно распределенная дискретная случайная величина, $\{x\}$ - множество ее возможных значений и $\varphi(x)$ - неслучайная функция. Если $\varphi(x)$ возрастает на всем $\{x\}$, то $X$ и $\varphi(X)$ положительно коррелированы. Если $\varphi(x)$ убывает на всем $\{x\}$, то $X$ и $\varphi(X)$ отрицательно коррелированы.
Мне удалось доказать это для частного случая двух возможных значений: $\{x\} = \{x_1, x_2\}$, причем $x_1<x_2$ (нумерация по возрастанию). Там после несложных преобразований имеем

$$4K_{x \varphi} = (x_1 - x_2) (\varphi(x_1) - \varphi(x_2))$$

Отсюда, принимая во внимание, что $x_1<x_2$, при возрастании $\varphi(x)$ получаем положительный момент корреляции, а при убывании - отрицательный.
Замена $2$ на произвольное $n$ привела к выражению, которое я не смог преобразовать (признаться, я не силен в преобразованиях). Поэтому я спрошу: есть ли такая теорема? А если ее нет, то есть ли контрпример?

Наконец, неприятно, что в условии требуется равновероятность распределения. Может быть, это требование можно ослабить?

[Geen]

А может ли $p(x)$ быть нечётной ф-цией?

[Anton_Peplov]

Geen в сообщении #998711 писал(а):

А может ли $p(x)$ быть нечётной ф-цией?

Нечетной функцией $p(x)$ быть, конечно, не может. Но функции не исчерпываются четными и нечетными.

[--mS--]

Не только общеизвестные, но и тривиальные.

1. Если распределение с.в. $X$ симметрично (т.е. $-X$ совпадает с $X$ по распределению), и $\varphi (x)$ - чётная функция, то (при условии существования $\mathsf E(X\cdot \varphi(X))$)

$$\mathsf E(X\cdot \varphi(X))=\mathsf E(-X\cdot \varphi(-X))=\mathsf E(-X\cdot \varphi(X)),$$

откуда сразу следует, что $\mathsf E(X\cdot \varphi(X))=0$.

2. Пусть функции $u(x)$ и $v(x)$ не возрастают (или не убывают) одновременно на некотором (конечном или бесконечном) интервале $(a,\,b)$ таком, что $\mathsf P(X\in(a,b))=1$. Тогда

$$\mathsf E(u(X)v(X)) \geqslant \mathsf Eu(X)\mathsf Ev(X),$$

если все участвующие математические ожидания существуют.

И теорему и док-во можно посмотреть в книге В.В.Петрова "Предельные теоремы для сумм независимых с.в." - теорема 1 параграфа 2 гл. 1. Впрочем, док-во и тут недолго привести.

Пусть $Y$ - с.в. не зависящая от $X$ и распределённая как $X$. Заметим, что

$$0\leqslant \mathsf E(u(X)-u(Y))(v(X)-v(Y)) = \mathsf Eu(X)v(X) + \mathsf Eu(Y)v(Y) - \mathsf Eu(X)\mathsf Ev(Y) - \mathsf Eu(Y)\mathsf Ev(X) =$$ $$=2(\mathsf Eu(X)v(X) - \mathsf Eu(X)\mathsf Ev(X)).$$

Левое неравенство выполнено просто потому, что величина под знаком математического ожидания всегда неотрицательна из-за одновременного невозрастания или неубывания функций:

$$(u(X)-u(Y))(v(X)-v(Y)) \geqslant 0.$$

(Оффтоп)

По терминологии:
а) В теории вероятностей $\mathop{\textrm{cov}}(X,Y)=\mathsf EXY-\mathsf EX\mathsf EY$ называется ковариацией случайных величин $X$ и $Y$. От остальных названий за версту разит провинциальщиной.
б) Случайная величина не называется дискретной. Дискретным называется её распределение.

[Anton_Peplov]

За книгу спасибо, книга полезная.
На нетривиальность я и не претендовал. Не каждый математик докажет что-то нетривиальное, а я ни разу не математик.
А вот вторая теорема, кажется, не о том, о чем моя гипотеза. Цитирую:

Anton_Peplov в сообщении #998675 писал(а):

Гипотеза. Пусть $X$ - равномерно распределенная дискретная случайная величина, $\{x\}$ - множество ее возможных значений и $\varphi(x)$ - неслучайная функция. Если $\varphi(x)$ возрастает на всем $\{x\}$, то $X$ и $\varphi(X)$ положительно коррелированы. Если $\varphi(x)$ убывает на всем $\{x\}$, то $X$ и $\varphi(X)$ отрицательно коррелированы.

Это гипотеза. А это приведенная Вами теорема:

--mS-- в сообщении #999472 писал(а):

Пусть функции $u(x)$ и $v(x)$ не возрастают (или не убывают) одновременно на некотором (конечном или бесконечном) интервале $(a,\,b)$ таком, что $\mathsf P(X\in(a,b))=1$. Тогда

$$\mathsf E(u(X)v(X)) \geqslant \mathsf Eu(X)\mathsf Ev(X),$$

если все участвующие математические ожидания существуют.

Если бы для $u(x) = x$ и неубывающей $v(x)$ правая часть в последнем неравенстве всегда была неотрицательной, то гипотеза прямо подтверждалась бы теоремой. Однако это не так. Рассмотрим, например, случайную величину $X$, с равной вероятностью принимающую значения $-\pi, -\frac{\pi}{2}, -\frac{\pi}{3}$. Пусть $v(x) = \cos x$, на $[-\pi, -\frac{\pi}{3}]$ эта функция возрастает. Тогда $E(X) = -\frac{11}{18}\pi$, а $E(v(X)) = \frac{1}{2}$, откуда $E(x)E(v(x))$ = $-\frac{11}{36}\pi$. По теореме, ковариация $E$ и $v(E)$ превышает $-\frac{11}{36}\pi$, но из этого не следует, что она положительна.

(Оффтоп)

Ковариация так ковариация. Академиев не кончали. Три класса церковно-приходской.

[--mS--]

Ковариация - это не $\mathsf E(XY)$, но $\mathsf E\bigl((X-\mathsf EX)(Y-\mathsf EY)\bigr)=\mathsf E(XY)-\mathsf EX\mathsf EY$.

(Оффтоп)

Это легко и без меня можно было выяснить.

[Anton_Peplov]

--mS-- в сообщении #999730 писал(а):

Ковариация - это не $\mathsf E(XY)$, но $\mathsf E\bigl((X-\mathsf EX)(Y-\mathsf EY)\bigr)=\mathsf E(XY)-\mathsf EX\mathsf EY$.

Да, извините. Только сообразил, что глупость написал, а Вы уже ответили.

(Оффтоп)

--mS-- в сообщении #999730 писал(а):

Это легко и без меня можно было выяснить.

[/quote]
Это - это терминологию? Е. С. Вентцель. Теория вероятностей. М.: Наука, 1969. Предметный указатель: "Момент корреляционный" - с. 176, ковариация в указателе не упоминается. В. Е. Гмурман. Теория вероятностей и математическая статистика. М.: Высшая школа, 1977. Предметный указатель: "Момент корреляционный" - с. 176 (даже номера страниц совпадают), ковариация в указателе не упоминается. Я допускаю, что это неправильные учебники, но видите ли, меня никто не снабдил списком правильных.

[AGu]

Ковариация двух случайных величин
(Там еще много-много всякого разного есть.)

[--mS--]

Anton_Peplov в сообщении #999743 писал(а):

Это - это терминологию?

Нет, не терминологию, а разницу между матожиданием произведения и ковариацией.

[Anton_Peplov]

Я их нечаянно перепутал.