2014 dxdy logo

Научный форум dxdy

Математика, Физика, Computer Science, Machine Learning, LaTeX, Механика и Техника, Химия,
Биология и Медицина, Экономика и Финансовая Математика, Гуманитарные науки
01/01/18 20:50 UTC: Перешли на HTTPS в тестовом режиме. О проблемах пишите в ЛС cepesh.



Правила форума


В этом разделе нельзя создавать новые темы.

Если Вы хотите задать новый вопрос, то не дописывайте его в существующую тему, а создайте новую в корневом разделе "Помогите решить/разобраться (М)".

Если Вы зададите новый вопрос в существующей теме, то в случае нарушения оформления или других правил форума Ваше сообщение и все ответы на него могут быть удалены без предупреждения.

Не ищите на этом форуме халяву, правила запрещают участникам публиковать готовые решения стандартных учебных задач. Автор вопроса обязан привести свои попытки решения и указать конкретные затруднения.

Обязательно просмотрите тему Правила данного раздела, иначе Ваша тема может быть удалена или перемещена в Карантин, а Вы так и не узнаете, почему.



Начать новую тему Ответить на тему
 
 Теоремы о корреляционном моменте
Сообщение31.03.2015, 23:21 
Заслуженный участник
Аватара пользователя


20/08/14
5168
Как известно, корреляционным моментом случайных величин $X$ и $Y$, имеющих математические ожидания $m_x$ и $m_y$, называется математическое ожидание случайной величины $B = (X - m_x)(Y - m_y)$. Величины, корреляционный момент которых отличен от нуля, называются коррелированными. Известно, что коррелированность величин - достаточное, но не необходимое условие их зависимости. То есть корреляция говорит о зависимости, отсутствие корреляции ни о чем не говорит (разве что об отсутствии функциональной линейной зависимости).
Я задался вопросом о корреляции случайной величины с неслучайной функцией от нее. Зависимость налицо, причем самая жесткая - функциональная. Вопрос, для каких функций корреляционный момент выявляет, а для каких не выявляет этой зависимости. У меня получилась на этот счет одна теорема и одна гипотеза. Не сомневаюсь, что, если они верны, они широко известны, но в учебниках по теории вероятности, которые я читал, их не было (возможно, они есть в учебниках матстатистики - до нее я пока не добрался). Теорему я прошу проверить (я мог ошибиться в доказательстве), а про гипотезу я хочу спросить, верна ли она.

Рассмотрим дискретную случайную величину $X$. Случайная величина называется дискретной, если существует лишь конечное множество $\{x\}$, значения из которого она принимает с отличной от нуля вероятностью, причем сумма вероятностей по всем элементам $\{x\}$ равна единице. Рассмотрим определенную на $\{x\}$ функцию $p(x)$ - вероятность значения $x$.

Теорема. Пусть $X$ - дискретная случайная величина, $\{x\}$ - множество ее возможных значений и $p(x)$ - вероятность значения $x$. Пусть $\varphi(x)$ - неслучайная функция. Если $p(x)$ и $\varphi(x)$ - четные функции, причем $0\notin \{x\}$, $X$ и $\varphi(X)$ некоррелированы.

Доказательство.
Пусть $\{x\}$ содержит $2n$ значений: $x_1; -x_1; x_2; -x_2;... ; x_n; -x_n$.
В силу четности $p(x)$ и условия $0\notin \{x\}$ верно $m_x = 0$, поэтому $x_i - m_x = x_i$. Вероятность значения $x_i$ обозначим $p_i$. В силу того, что $\varphi(X)$ - неслучайная функция, а также четности $\varphi(x)$ и $p(x)$, вероятность пары $(x_i, \varphi(x_i))$ равна $p(x_i, \varphi(x_i)) = p(-x_i, \varphi(x_i)) = p_i$, в то время как при $i\ne j$ верно $p(x_i, \varphi(x_j)) =0$.
Тогда корреляционный момент $X$ и $\varphi(X)$ равен
$$K_{x \varphi} = \sum\limits_{i=1}^{n}p_i [x_i (\varphi(x_i) - m_\varphi) - x_i (\varphi(x_i) - m_\varphi)] = 0 $$
Теорема доказана.

Математически эта теорема тривиальна, но она кажется мне удобной иллюстрацией недостатков корреляционного момента. Ибо класс четных функций весьма обширен - это $y = x^2$, $y = \cos x$ и т.д. Но это - если я нигде не ошибся в доказательстве. А я нигде не ошибся?

Гипотеза. Пусть $X$ - равномерно распределенная дискретная случайная величина, $\{x\}$ - множество ее возможных значений и $\varphi(x)$ - неслучайная функция. Если $\varphi(x)$ возрастает на всем $\{x\}$, то $X$ и $\varphi(X)$ положительно коррелированы. Если $\varphi(x)$ убывает на всем $\{x\}$, то $X$ и $\varphi(X)$ отрицательно коррелированы.
Мне удалось доказать это для частного случая двух возможных значений: $\{x\} = \{x_1, x_2\}$, причем $x_1<x_2$ (нумерация по возрастанию). Там после несложных преобразований имеем
$$4K_{x \varphi} = (x_1 - x_2) (\varphi(x_1) - \varphi(x_2))$$
Отсюда, принимая во внимание, что $x_1<x_2$, при возрастании $\varphi(x)$ получаем положительный момент корреляции, а при убывании - отрицательный.
Замена $2$ на произвольное $n$ привела к выражению, которое я не смог преобразовать (признаться, я не силен в преобразованиях). Поэтому я спрошу: есть ли такая теорема? А если ее нет, то есть ли контрпример?

Наконец, неприятно, что в условии требуется равновероятность распределения. Может быть, это требование можно ослабить?

 Профиль  
                  
 
 Re: Теоремы о корреляционном моменте
Сообщение01.04.2015, 00:36 
Заслуженный участник
Аватара пользователя


01/09/13
1519
А может ли $p(x)$ быть нечётной ф-цией?

 Профиль  
                  
 
 Re: Теоремы о корреляционном моменте
Сообщение01.04.2015, 00:50 
Заслуженный участник
Аватара пользователя


20/08/14
5168
Geen в сообщении #998711 писал(а):
А может ли $p(x)$ быть нечётной ф-цией?


Нечетной функцией $p(x)$ быть, конечно, не может. Но функции не исчерпываются четными и нечетными.

 Профиль  
                  
 
 Re: Теоремы о корреляционном моменте
Сообщение02.04.2015, 20:38 
Заслуженный участник
Аватара пользователя


23/11/06
3901
Не только общеизвестные, но и тривиальные.

1. Если распределение с.в. $X$ симметрично (т.е. $-X$ совпадает с $X$ по распределению), и $\varphi (x)$ - чётная функция, то (при условии существования $\mathsf E(X\cdot \varphi(X))$)
$$\mathsf E(X\cdot \varphi(X))=\mathsf E(-X\cdot \varphi(-X))=\mathsf E(-X\cdot \varphi(X)),$$
откуда сразу следует, что $\mathsf E(X\cdot \varphi(X))=0$.

2. Пусть функции $u(x)$ и $v(x)$ не возрастают (или не убывают) одновременно на некотором (конечном или бесконечном) интервале $(a,\,b)$ таком, что $\mathsf P(X\in(a,b))=1$. Тогда
$$\mathsf E(u(X)v(X)) \geqslant \mathsf Eu(X)\mathsf Ev(X),$$
если все участвующие математические ожидания существуют.

И теорему и док-во можно посмотреть в книге В.В.Петрова "Предельные теоремы для сумм независимых с.в." - теорема 1 параграфа 2 гл. 1. Впрочем, док-во и тут недолго привести.

Пусть $Y$ - с.в. не зависящая от $X$ и распределённая как $X$. Заметим, что
$$0\leqslant \mathsf E(u(X)-u(Y))(v(X)-v(Y)) = \mathsf Eu(X)v(X) + \mathsf Eu(Y)v(Y) - \mathsf Eu(X)\mathsf Ev(Y) - \mathsf Eu(Y)\mathsf Ev(X) =$$ 
$$=2(\mathsf Eu(X)v(X) - \mathsf Eu(X)\mathsf Ev(X)).$$
Левое неравенство выполнено просто потому, что величина под знаком математического ожидания всегда неотрицательна из-за одновременного невозрастания или неубывания функций:
$$(u(X)-u(Y))(v(X)-v(Y)) \geqslant 0.$$

(Оффтоп)

По терминологии:
а) В теории вероятностей $\mathop{\textrm{cov}}(X,Y)=\mathsf EXY-\mathsf EX\mathsf EY$ называется ковариацией случайных величин $X$ и $Y$. От остальных названий за версту разит провинциальщиной.
б) Случайная величина не называется дискретной. Дискретным называется её распределение.

 Профиль  
                  
 
 Re: Теоремы о корреляционном моменте
Сообщение03.04.2015, 17:54 
Заслуженный участник
Аватара пользователя


20/08/14
5168
За книгу спасибо, книга полезная.
На нетривиальность я и не претендовал. Не каждый математик докажет что-то нетривиальное, а я ни разу не математик.
А вот вторая теорема, кажется, не о том, о чем моя гипотеза. Цитирую:
Anton_Peplov в сообщении #998675 писал(а):
Гипотеза. Пусть $X$ - равномерно распределенная дискретная случайная величина, $\{x\}$ - множество ее возможных значений и $\varphi(x)$ - неслучайная функция. Если $\varphi(x)$ возрастает на всем $\{x\}$, то $X$ и $\varphi(X)$ положительно коррелированы. Если $\varphi(x)$ убывает на всем $\{x\}$, то $X$ и $\varphi(X)$ отрицательно коррелированы.

Это гипотеза. А это приведенная Вами теорема:
--mS-- в сообщении #999472 писал(а):
Пусть функции $u(x)$ и $v(x)$ не возрастают (или не убывают) одновременно на некотором (конечном или бесконечном) интервале $(a,\,b)$ таком, что $\mathsf P(X\in(a,b))=1$. Тогда
$$\mathsf E(u(X)v(X)) \geqslant \mathsf Eu(X)\mathsf Ev(X),$$
если все участвующие математические ожидания существуют.


Если бы для $u(x) = x$ и неубывающей $v(x)$ правая часть в последнем неравенстве всегда была неотрицательной, то гипотеза прямо подтверждалась бы теоремой. Однако это не так. Рассмотрим, например, случайную величину $X$, с равной вероятностью принимающую значения $-\pi, -\frac{\pi}{2}, -\frac{\pi}{3}$. Пусть $v(x) = \cos x$, на $[-\pi, -\frac{\pi}{3}]$ эта функция возрастает. Тогда $E(X) = -\frac{11}{18}\pi$, а $E(v(X)) = \frac{1}{2}$, откуда $E(x)E(v(x))$ = $-\frac{11}{36}\pi$. По теореме, ковариация $E$ и $v(E)$ превышает $-\frac{11}{36}\pi$, но из этого не следует, что она положительна.

(Оффтоп)

Ковариация так ковариация. Академиев не кончали. Три класса церковно-приходской.

 Профиль  
                  
 
 Re: Теоремы о корреляционном моменте
Сообщение03.04.2015, 18:32 
Заслуженный участник
Аватара пользователя


23/11/06
3901
Ковариация - это не $\mathsf E(XY)$, но $\mathsf E\bigl((X-\mathsf EX)(Y-\mathsf EY)\bigr)=\mathsf E(XY)-\mathsf EX\mathsf EY$.

(Оффтоп)

Это легко и без меня можно было выяснить. :evil:

 Профиль  
                  
 
 Re: Теоремы о корреляционном моменте
Сообщение03.04.2015, 19:01 
Заслуженный участник
Аватара пользователя


20/08/14
5168
--mS-- в сообщении #999730 писал(а):
Ковариация - это не $\mathsf E(XY)$, но $\mathsf E\bigl((X-\mathsf EX)(Y-\mathsf EY)\bigr)=\mathsf E(XY)-\mathsf EX\mathsf EY$.

Да, извините. Только сообразил, что глупость написал, а Вы уже ответили.

(Оффтоп)

--mS-- в сообщении #999730 писал(а):
Это легко и без меня можно было выяснить. :evil:
[/quote]
Это - это терминологию? Е. С. Вентцель. Теория вероятностей. М.: Наука, 1969. Предметный указатель: "Момент корреляционный" - с. 176, ковариация в указателе не упоминается. В. Е. Гмурман. Теория вероятностей и математическая статистика. М.: Высшая школа, 1977. Предметный указатель: "Момент корреляционный" - с. 176 (даже номера страниц совпадают), ковариация в указателе не упоминается. Я допускаю, что это неправильные учебники, но видите ли, меня никто не снабдил списком правильных.

 Профиль  
                  
 
 Re: Теоремы о корреляционном моменте
Сообщение03.04.2015, 19:39 
Заслуженный участник


09/05/08
1155
Новосибирск
Ковариация двух случайных величин
(Там еще много-много всякого разного есть.)

 Профиль  
                  
 
 Re: Теоремы о корреляционном моменте
Сообщение03.04.2015, 21:16 
Заслуженный участник
Аватара пользователя


23/11/06
3901
Anton_Peplov в сообщении #999743 писал(а):
Это - это терминологию?

Нет, не терминологию, а разницу между матожиданием произведения и ковариацией.

 Профиль  
                  
 
 Re: Теоремы о корреляционном моменте
Сообщение03.04.2015, 21:30 
Заслуженный участник
Аватара пользователя


20/08/14
5168
Я их нечаянно перепутал.

 Профиль  
                  
Показать сообщения за:  Поле сортировки  
Начать новую тему Ответить на тему  [ Сообщений: 10 ] 

Модераторы: Модераторы Математики, Супермодераторы



Кто сейчас на конференции

Сейчас этот форум просматривают: нет зарегистрированных пользователей


Вы не можете начинать темы
Вы не можете отвечать на сообщения
Вы не можете редактировать свои сообщения
Вы не можете удалять свои сообщения
Вы не можете добавлять вложения

Найти:
Powered by phpBB © 2000, 2002, 2005, 2007 phpBB Group