2014 dxdy logo

Научный форум dxdy

Математика, Физика, Computer Science, Machine Learning, LaTeX, Механика и Техника, Химия,
Биология и Медицина, Экономика и Финансовая Математика, Гуманитарные науки




 
 нормализирующее преобразование случайного вектора
Сообщение10.05.2010, 19:49 
Товарищи, помогите, может кто знает...

Задача такая: есть вектор $(\xi_1,\xi_2)$ случайных величин, заданных на одном вероятностном пространстве.

Хотелось бы найти нормализирующую(желательно биективную и непрерывную) функцию $f$ такую, что $f(\xi_1,\xi_2) = (\eta_1,\eta_2)\sim N(\vec\mu,\Sigma)$.

При этом преобразование $f$, естественно, должно быть невырожденным.

Я пока смог найти только функцию $f(\xi_1) =\Phi^{-1} (F_{\xi_1}(\xi_1)) = \eta \sim N(0,1)$.

Но вот как перейти к двумерному случаю?

 
 
 
 Re: нормализирующее преобразование
Сообщение11.05.2010, 04:07 
Если потребовать независимости $\xi_1$ и $\xi_2$, то (если $\Sigma$ положительно определена) записывайте $\Sigma=AA^T$, затем как Вы уже написали $f(\xi_1)=\Phi^{-1}(F_{\xi_1}(\xi_1))=\eta_1 \sim N(0,1)$, $f(\xi_2)=\Phi^{-1}(F_{\xi_2}(\xi_2))=\eta_2 \sim N(0,1)$. После этого вектор $\vec\mu+A\vec\eta \sim N(\vec\mu,\Sigma)$.

 
 
 
 Re: нормализирующее преобразование
Сообщение11.05.2010, 08:51 
Аватара пользователя
Независимость требовать не обязательно.
Если $F_{\xi_1|\xi_2}(x|y)$ и $G_{\eta_1|\eta_2}(x|y)$ условные функции распределения $\xi_1$ по $\xi_2$ и $\eta_1$ по $\eta_2$ соответственно, а $F_{\xi_2}$ и $G_{\eta_2}$ маргинальные ф.р. $\xi_2$ и $\eta_2$, тогда в качестве преобразования можно взять
$$
\eta_2:=G_{\eta_2}^{-1}F_{\xi_2}(\xi_2)
$$
$$
\eta_1:=G_{\eta_1|\eta_2}^{-1}\left(F_{\xi_1|\xi_2}(\xi_1|\xi_2)|\eta_2\right)
$$

 
 
 
 Re: нормализирующее преобразование
Сообщение12.05.2010, 13:00 
Аватара пользователя
Henrylee в сообщении #317876 писал(а):
Если $F_{\xi_1|\xi_2}(x|y)$ и $G_{\eta_1|\eta_2}(x|y)$ условные функции распределения $\xi_1$ по $\xi_2$ и $\eta_1$ по $\eta_2$ соответственно, а $F_{\xi_2}$ и $G_{\eta_2}$ маргинальные ф.р. $\xi_2$ и $\eta_2$, тогда в качестве преобразования можно взять
$$
\eta_2:=G_{\eta_2}^{-1}F_{\xi_2}(\xi_2)
$$
$$
\eta_1:=G_{\eta_1|\eta_2}^{-1}\left(F_{\xi_1|\xi_2}(\xi_2|\xi_2)|\eta_2\right)
$$

Не понимаю второго равенства. Если (для простоты) мы хотим получить $\eta_1$ и $\eta_2$ независимые (пусть даже для простоты равномерно распределенные на $[0,\,1]$), то $G_{\eta_1|\eta_2}(x|y)=x$ на $[0,\,1]$. Следовательно, утверждается, что $F_{\xi_1|\xi_2}(\xi_2|\xi_2)$ имеет равномерное распределение на $[0,\,1]$? Не понимаю, откуда это получается, ведь
$$F_{\xi_1|\xi_2}(x|y) = \dfrac{F_{\xi_1,\xi_2}(x,\,y)}{F_{\xi_2}(y)} \text{ \  и \ }
F_{\xi_1|\xi_2}(\xi_2|\xi_2) = \dfrac{F_{\xi_1,\xi_2}(\xi_2,\xi_2)}{F_{\xi_2}(\xi_2)}?$$
Скажем, для $F_{\xi_1,\xi_2}(x,y) = \frac12 (x^2y+xy^2)$ в квадрате $[0,\,1]^2$ случайная величина $F_{\xi_1|\xi_2}(\xi_2|\xi_2)$ равна $\dfrac{2\xi_2^2}{1+\xi_2}$ и никак не имеет равномерное распределение на $[0,\,1]$.

А если брать $F_{\xi_1|\xi_2}(\xi_1|\xi_2)$ (??), то станет ещё хуже.
Наверное, я чего-то не вижу очевидного?

 
 
 
 Re: нормализирующее преобразование
Сообщение12.05.2010, 14:06 
Аватара пользователя
Извиняюсь за опечатку. Исправил.
Брать нужно, конечно, не $F_{\xi_1|\xi_2}(\xi_2|\xi_2)$, а $F_{\xi_1|\xi_2}(\xi_1|\xi_2)$. "Еще хуже " не станет, она действительно равномерно на $[0,1]$ распределена.

И Вы слегка напутали , не условная ф.р. есть отношение, а условная плотность.
Посчитал по Вашему примеру, вышло
$$
F_{\xi_1|\xi_2}(\xi_1|\xi_2)=\frac{\xi_1^2+2\xi_1\xi_2}{1+2\xi_2}
$$

 
 
 
 Re: нормализирующее преобразование
Сообщение12.05.2010, 16:18 
Аватара пользователя
Henrylee в сообщении #318352 писал(а):
И Вы слегка напутали , не условная ф.р. есть отношение, а условная плотность.
Посчитал по Вашему примеру, вышло
$$
F_{\xi_1|\xi_2}(\xi_1|\xi_2)=\frac{\xi_1^2+2\xi_1\xi_2}{1+2\xi_2}
$$

Прошу прощения, действительно про условную ф.р. напутала, ну и с примером всё ясно, спасибо.

А этот результат вообще где-то есть, или он просто очевиден? :shock:

 
 
 
 Re: нормализирующее преобразование
Сообщение12.05.2010, 16:55 
Аватара пользователя
--mS-- в сообщении #318414 писал(а):
А этот результат вообще где-то есть, или он просто очевиден? :shock:

Тут ситуация, если честно, странноватая. Вроде как все очевидно (а именно, доказывается в пару строчек), но многие недоумевают, когда слышат, что
$F_{\xi_1|\xi_2}(\xi_1|\xi_2)$ и $\xi_2$ независимы для абсолютно непрерывных векторов $(\xi_1,\xi_2)$ (в равномерную на $[0,1]$ распределенность первой еще худо-бедно верят). Первоисточником, судя по всему, является статья Розенблатта:

Rosenblatt M. Remarks on multivariate transformation. Ann. Math. Stat., 1952, v.23, p. 470-472.
В ней акцент не на это, поэтому, видимо, как-то, обычно, не замечают.

 
 
 
 Re: нормализирующее преобразование
Сообщение12.05.2010, 19:09 
Аватара пользователя
Н-да... Действительно, даже не две, а одна строчка: теорема умножения вероятностей... Тяжело быть слепой на мозги :)

Спасибо!

 
 
 
 Re: нормализирующее преобразование
Сообщение14.05.2010, 20:06 
Спасибо большое за ответы. А какие ограничения накладываются на вектор $(\xi_1,\xi_2)$? Требуется ли абсолютная непрерывность?

И ещё такой вопрос интересует.
Мне эта нормировка нужна вот для чего:
Есть достаточно много самых разнообразных случайных величин. Задача поковыряться в них и показать("почти доказать") независимость случайных величин $\xi_1$ и $\xi_2$. Но эти случайные величины очень непростые, к тому же их достаточно много и строго математически доказать не получается. Поэтому можно пользоваться в каком-то смысле численными методами.

Я имею ввиду, что на практике в качестве аргумента в пользу независимости используют равенство нулю коэффициента корреляции. Однако это не совсем правильно. Равенство коэффициента корреляции нулю – лишь необходимое условие независимости случайных величин. достаточным оно будет когда либо $\xi_1$ и $\xi_2$ - индикаторные с.в., либо когда они имеют совместное нормально распределение(может есть ещё случаи?)

после нормировки $\xi_1$ и $\xi_2$ получим с.в.
$\eta_1$ и $\eta_2$, независимость которых будет следовать из равенства нулю коэффициента корреляции.

Теперь вопрос:"Будет ли из независимости с.в. $\eta_1$ и $\eta_2$ следовать независимость с.в. $\xi_1$ и $\xi_2$? Ну или хотя бы при каких условиях это справедливо?"

И вообще, при каких условияx верно: ($f(\xi_1)$ и $f(\xi_2)$ - независимы) $\Rightarrow$ ($\xi_1$ и $\xi_2$ - независимы)
Требуется ли непрерывность функции или что - то ещё?

 
 
 
 Re: нормализирующее преобразование
Сообщение14.05.2010, 21:33 
Аватара пользователя
malin в сообщении #319358 писал(а):
Спасибо большое за ответы. А какие ограничения накладываются на вектор $(\xi_1,\xi_2)$? Требуется ли абсолютная непрерывность?

Для утверждения $F_\xi(\xi)\sim U([0,\,1])$ необходимо и достаточно непрерывности распределения $\xi$. В двумерном случае просто непрерывности совместного распределения уже может не хватить, нужно требовать абсолютную непрерывность совместного распределения.

(Оффтоп)

Например, распределение $(\xi,\, \xi)$ непрерывно при непрерывном распределении $\xi$, но условное распределение $F_{\xi|\xi}(x|y)$ вырождено.

malin в сообщении #319358 писал(а):
Теперь вопрос:"Будет ли из независимости с.в. $\eta_1$ и $\eta_2$ следовать независимость с.в. $\xi_1$ и $\xi_2$? Ну или хотя бы при каких условиях это справедливо?"

Не будет, конечно же. Вы можете указанным преобразованием превратить вектор $(\xi_1, \,\xi_2)$ в пару независимых стандартных нормальных случайных величин всегда, каким бы ни было абсолютно непрерывное совместное распределение исходного вектора.

malin в сообщении #319358 писал(а):
И вообще, при каких условияx верно: ($f(\xi_1)$ и $f(\xi_2)$ - независимы) $\Rightarrow$ ($\xi_1$ и $\xi_2$ - независимы)
Требуется ли непрерывность функции или что - то ещё?

Это немножко не тот случай. Обратите внимание: преобразование, которое выше описал Henrylee, это $\eta_1 = f(\xi_1, \,\xi_2)$ и $\eta_2=g(\xi_2)$.
Для независимости же $\xi_1$ и $\xi_2$ при независимых $f(\xi_1)$ и $f(\xi_2)$ достаточно взаимной однозначности борелевской функции $f$. Во всех остальных предположениях относительно $f$ легко строятся контрпримеры.

 
 
 
 Re: нормализирующее преобразование
Сообщение15.05.2010, 08:40 
Аватара пользователя
malin в сообщении #319358 писал(а):
Равенство коэффициента корреляции нулю – лишь необходимое условие независимости случайных величин. достаточным оно будет когда либо $\xi_1$ и $\xi_2$ - индикаторные с.в., либо когда они имеют совместное нормально распределение(может есть ещё случаи?)


Есть, самый общий случай - ассоциированные (отрицательно ассоциированные) случайные величины. Для двух с.в. это значит, что
для любых неубывающих борелевских функций $f$ и $g$ ковариация $f(\xi_1)$ и $g(\xi_2)$ неотрицательна (неположительна).

 
 
 
 Re: нормализирующее преобразование
Сообщение06.06.2010, 22:50 
А можно вместо
$\eta_1:=G_{\eta_1|\eta_2}^{-1}\left(F_{\xi_1|\xi_2}(\xi_1|\xi_2)|\eta_2\right)$
взять
$\eta_1:=G_{\eta_1}^{-1}\left(F_{\xi_1|\xi_2}(\xi_1|\xi_2))$?

 
 
 
 Re: нормализирующее преобразование
Сообщение08.06.2010, 11:20 
Аватара пользователя
malin в сообщении #328494 писал(а):
А можно вместо
$\eta_1:=G_{\eta_1|\eta_2}^{-1}\left(F_{\xi_1|\xi_2}(\xi_1|\xi_2)|\eta_2\right)$
взять
$\eta_1:=G_{\eta_1}^{-1}\left(F_{\xi_1|\xi_2}(\xi_1|\xi_2))$?

Тогда у Вас $\eta_1$ и $\eta_2$ станут независимыми.

 
 
 
 Re: нормализирующее преобразование
Сообщение08.06.2010, 17:02 
Я просто подумал, что совместная нормальность в данном преобразовании обеспечивается именно независимостью $\eta_1,\eta_2$

 
 
 
 Re: нормализирующее преобразование
Сообщение10.06.2010, 21:16 
Аватара пользователя
Совместная нормальность обеспечивается видом условной функций распределения $G_{\eta_1|\eta_2}$ (она будет условной ф.р. $\eta_1$ по $\eta_2$, совместное распределение которых нормально, потому что Вы сами так хотели). Хотите получить независимые нормальные - пожалуйста, тогда $G_{\eta_1|\eta_2}(x|y)=G_{\eta_1}(x)$

 
 
 [ Сообщений: 15 ] 


Powered by phpBB © 2000, 2002, 2005, 2007 phpBB Group