Формула многомерной функции распределения нормальных величин

[Maxx]

Добрый день, уважаемые форумчане!

Нигде не могу найти формулу многомерной функции распределения случайной величины распределённой по нормальному закону. Для плотности вероятности такая формула

$p_n(\xi_1,\xi_2,...,\xi_n;t_1,t_2,...,t_n) = \frac{1}{(2\pi)^{n/2} \sqrt{\left|R\right|}} \times \exp \left[ -\frac{1}{2\left|R\right|} \sum_{i=1}^{n} \sum_{j=1}^{n} A_{ij}(\xi_i-m_i)(\xi_j-m_j) \right] $
где $R$ - корреляционная матрица размера $n \times n$, а $A_{ij}$ - элементы матрицы алгебраического дополнения к матрице $R$

встречается в литературе:
Тихонов В.И., Хименко В.И. Выбросы траекторий случайных процессов. М.: Наука, 1987. стр. 28
Баскаков С.И. Радиотехнические цепи и сигналы. Высшая школа, 3-е издание, 2000 стр. 161
http://www.nsu.ru/mmf/tvims/chernova/tv ... ION0009302

Но какая будет формулу для функции распределения? Интересует общий случай с зависимыми величинами (когда они независимы, то всё упрощается).

Как вариант хотя бы формулу для двух величин.

Помогите, пожалуйста!

[Maxx]

Судя по всему эта формула имеет нереально сложный вид и/или который пока никто не получил. Я почему-то делал поиска на английском языке. В http://en.wikipedia.org/wiki/Multivaria ... stribution есть достаточно большой список литературы по теме, может быть там что-то найдётся.

С другой стороны моя задача несколько решается, поскольку в MATLAB уже реализована многомерная функция распределения mvncdf и, конечно, плотности вероятности mvnpdf.

Но если найдётся формула многомерной функции распределения случайной величины распределённой по нормальному закону, то буду рад её видеть с ссылками на источник.

-- 05.05.2013, 07:30 --

Внутри функции mvncdf имеются ссылки на соответствующую литературу:
[1] Drezner, Z. and G.O. Wesolowsky (1989) "On the Computation of the Bivariate Normal Integral", J.Statist.Comput.Simul., 35:101-107.
[2] Drezner, Z. (1994) "Computation of the Trivariate Normal Integral", Mathematics of Computation, 63:289-294.
[3] Genz, A. (2004) "Numerical Computation of Rectangular Bivariate and Trivariate Normal and t Probabilities", Statistics and Computing, 14(3):251-260.
[4] Genz, A. and F. Bretz (1999) "Numerical Computation of Multivariate t Probabilities with Application to Power Calculation of Multiple Contrasts", J.Statist.Comput.Simul., 63:361-378.
[5] Genz, A. and F. Bretz (2002) "Comparison of Methods for the Computation of Multivariate t Probabilities", J.Comp.Graph.Stat., 11(4):950-971.

Там можно и найти формулы.

[--mS--]

Непонятен вопрос. А что, формула для функции распределения одномерного нормального закона у Вас есть?

[Maxx]

--mS-- в сообщении #719756 писал(а):

Непонятен вопрос. А что, формула для функции распределения одномерного нормального закона у Вас есть?

Да:
$F(x)=\frac{1}{2} \left[ 1+erf(\frac{x-\mu}{\sqrt{2\sigma^2}}) \right]$
где
$erf(x)=\frac{2}{\sqrt{\pi}}\int_{0}^{x}e^{-t^2}dt$
erf - функция ошибок

[--mS--]

Ну, если это - "формула", то вот эта ничуть не хуже:

$$F_{\xi_1,\ldots,\xi_n}(x_1,\ldots,x_n) = \int\limits_{-\infty}^{x_1}\ldots\int\limits_{-\infty}^{x_n} \dfrac{1}{(2\pi)^{n/2}\sqrt{|\Sigma|}}\, \exp\left(-\dfrac12 (\vec x-\vec a)^T\Sigma^{-1}(\vec x-\vec a)\right) d\vec x. $$

[Maxx]

--mS-- в сообщении #719756 писал(а):

Непонятен вопрос. А что, формула для функции распределения одномерного нормального закона у Вас есть?

Ну, если это - "формула", то вот эта ничуть не хуже

Простите, похоже я банально протупил :))

[--mS--]

Не страшно Конечно, надо пользоваться стандартными средствами типа матлаба.

[Евгений Машеров]

А что собственно требуется?
Если выразить формулой - то ответ дан выше. Если посчитать численно - то наиболее практичным может оказаться "монтекарленье".

[Maxx]

Евгений Машеров в сообщении #721028 писал(а):

А что собственно требуется?
Если выразить формулой - то ответ дан выше. Если посчитать численно - то наиболее практичным может оказаться "монтекарленье".

Изначально требовалось посчитать значения многомерной функции распределения. Поскольку численно интегрировать не хотелось, то и появилось предположение о формуле вида
$F(\xi_1,\xi_2,...,\xi_n)=\frac{1}{2}\left[1+erf(f(\xi_1,\xi_2,...,\xi_n))\right]$
по аналогии из одномерного случая. Ну или по крайней мере что-то в этом роде. В первом сообщении я почему-то не выразил эту мысль, но именно это и имелось в виду.

Поскольку функция ошибок одномерна, и я не видел вариант для нескольких случайных величин, то возник резонный вопрос: а как люди считают, если надо посчитать. Ответ нашёл в функциях MATLAB. Правда, я пока не всматривался в решение, поскольку мне нужны результаты работы функции. Этот вариант работать будет гораздо быстрей чем метод Монте-Карло, но если многомерное распределение не нормальное, то это самый простой и доступный способ вычисления.

[Евгений Машеров]

А какую именно функцию Вы имеете в виду?

[Maxx]

Евгений Машеров в сообщении #721947 писал(а):

А какую именно функцию Вы имеете в виду?

Если одномерная плотность вероятности для нормального закона имеет вид:
$p(x)=\frac{1}{\sqrt{2\pi}\sigma} \times e^{\frac{(x-\mu)^2}{2\sigma^2}}$
а одномерная функция распределения выражается формулой
$F(x)=\frac{1}{2} \left[ 1+erf\left( -\frac{x-\mu}{\sqrt{2\sigma^2}} \right) \right]$

то можно ли найти для многомерной плотности вероятности
$p_n(x_1,x_2,...,x_n) = \frac{1}{(2\pi)^{n/2} \sqrt{\left|R\right|}} \times \exp \left[ -\frac{1}{2\left|R\right|} \sum_{i=1}^{n} \sum_{j=1}^{n} A_{ij}(x_i-m_i)(x_j-m_j) \right] $
многомерную функцию распределения, которая вычислялась через интеграл Лапласа как-нибудь так:
$F(x_1,x_2,...,x_n)=\frac{1}{2} \left[ 1+erf(f(x_1,x_2,...,x_n)) \right]$

Т.е. мне хотелось вычислись аргумент интеграла Лапласа в виде похожем для многомерной плотности вероятности
$t = -\frac{1}{2\left|R\right|} \sum_{i=1}^{n} \sum_{j=1}^{n} A_{ij}(x_i-m_i)(x_j-m_j)$
а потом уже его использовать в более простом выражении наподобие
$F(x)=\frac{1}{2} \left[ 1+erf (t) \right]$

[Евгений Машеров]

В Матлабе есть функция mvncdf, однако какой там алгоритм используется - неясно. В пояснениях даются ссылки на статьи

Цитата:

[1] Drezner, Z. "Computation of the Trivariate Normal Integral." Mathematics of Computation. Vol. 63, 1994, pp. 289–294.

[2] Drezner, Z., and G. O. Wesolowsky. "On the Computation of the Bivariate Normal Integral." Journal of Statistical Computation and Simulation. Vol. 35, 1989, pp. 101–107.

[3] Genz, A. "Numerical Computation of Rectangular Bivariate and Trivariate Normal and t Probabilities." Statistics and Computing. Vol. 14, No. 3, 2004, pp. 251–260.

[4] Genz, A., and F. Bretz. "Numerical Computation of Multivariate t Probabilities with Application to Power Calculation of Multiple Contrasts." Journal of Statistical Computation and Simulation. Vol. 63, 1999, pp. 361–378.

[5] Genz, A., and F. Bretz. "Comparison of Methods for the Computation of Multivariate t Probabilities." Journal of Computational and Graphical Statistics. Vol. 11, No. 4, 2002, pp. 950–971.

Две последние я скачал, но пока не разобрал. Похоже, Монте-Карло там рассматривается, как полноценный метод вычисления. А что именно в самой функции (если она доступна, как m-file или на другом языке) надо смотреть.
Во всяком случае, простого выражения желаемого Вами вида не найдено, там какое-то численное интегрирование с определёнными приёмами, учитывающими специфику задачи.

[--mS--]

Maxx в сообщении #722052 писал(а):

Т.е. мне хотелось вычислись аргумент интеграла Лапласа в виде похожем для многомерной плотности вероятности
$t = -\frac{1}{2\left|R\right|} \sum_{i=1}^{n} \sum_{j=1}^{n} A_{ij}(x_i-m_i)(x_j-m_j)$
а потом уже его использовать в более простом выражении наподобие
$F(x)=\frac{1}{2} \left[ 1+erf (t) \right]$

Ну проверьте своё желание хотя бы на независимых величинах: не представимо произведение $\prod\limits_{i=1}^n\frac{1}{2} \left[ 1+erf (t_i) \right]$ в таком виде. Круг $x^2+y^2 < t^2$ и прямоугольник $x < t_1$, $y < t_2$ - разные области. Не говоря уже о зависимых. Максимум, что можно сделать - поворотом превратить случайные величин в независимые, но при этом область $x_1<t_1$, ..., $x_n<t_n$ тоже повернётся, и интеграл даже в произведение разбить станет невозможно.

[Евгений Машеров]

Из МАТЛАБовской функции mvncdf:

Цитата:

For four or more
dimensions, MVNCDF uses a quasi-Monte Carlo integration algorithm based on
methods developed by Genz and Bretz, as described in the references.

Для случая 2 и 3 измерений там специальные процедуры.