многомерное экспоненциально-степенное распределение

[AndreyL]

Два вопроса про многомерное (эллиптическое) экспоненциально-степенное распределение.
1 случайный вектор $X$ длины $n$ подчиняется экспоненциально-степенному распределению с плотностью $p(X)=\frac{b \Gamma \left(\frac{n}{2}\right)}{(2 \pi )^{n/2} \Gamma \left(\frac{n}{2 b}\right)} \exp \left( - \frac{1}{2} \left( \left(X-A \right).\Sigma^{-1} .\left(X-A \right) \right)^b \right)$, где $\Sigma$ - симметричная положительно полуопределенная матрица (если не ошибся). Какому распределению подчиняется длина вектора $\left(X-A \right)$? Есть подозрение, что величина $\left( X.\Sigma^{-1} .X \right)^{\frac{b}{2}}$ подчиняется гамма-распределению, но не понятно, с какими параметрами.
2 Есть ли какие-то способы оценки параметров $A$, $\Sigma$ и $b$ по взвешенной выборке, кроме прямой оптимизации функции правдоподобия?

[valerych]

Попробуйте представить матрицу \Sigma в виде \Sigma = S\Lambda S^\top, где $\Lambda$ - диагональная матрица, а $S$ - ортогональная матрица. После этого можно сделать замену переменных $Y = \Lambda^{-\frac12} S^\top (X-A)$. Затем от переменных $Y$ можно попробовать перейти к многомерным сферическим координатам.

[AndreyL]

Можно и так, можно и по другому $Y = \Sigma^{-\frac12}(X-A)$, переходим к сферическим координатам, при этом, если не ошибаюсь, плотность распределения $Y$ равна произведению плотностей маргинальных распределений, но что это нам дает? Извиняюсь, в плотности многомерного распределения забыл определитель матрицы, плотность должна быть $p(X)=\frac{b \Gamma \left(\frac{n}{2}\right)}{(2 \pi )^{n/2} \Gamma \left(\frac{n}{2 b}\right) \sqrt {|\Sigma|}} \exp \left( - \frac{1}{2} \left( \left(X-A \right).\Sigma^{-1} .\left(X-A \right) \right)^b \right)$.

[valerych]

Действительно, после перехода к сферическим координатам окажется, что совместная плотность есть произведение частных плотностей. При этом переменная $\rho$ (расстояние до начала координат) окажется в показателе $e$. Можно заметить, что $\rho$ является длиной вектора $Y$. Это значит, что можно найти закон распределения длины $Y$. С другой стороны, квадрат длины вектора $Y$ равен $(X-A)^\top \Sigma^{-1}(X-A)$.

[AndreyL]

Я исходил из двух частных случаев. При $n=1$ мы имеем одномерное экспоненциально-степенное распределение с параметром степени $2 b$, тогда $A$ и $\Sigma$ скаляры и величина $\left((X-A) \Sigma^{-1}(X-A) \right)^b$ подчиняется гамма-распределению с параметрами $\frac{1}{2 b}$ и $2 b$ (если опять нигде не ошибся). Если $b=1$ то мы имеем многомерное нормальное распределение, тогда $(X-A)^\top \Sigma^{-1}(X-A)$ подчиняется хи-квадрату с $n$ степенями свободы, что то-же самое, что гамма-распределение с параметрами $\frac{n}{2}$ и 2. А как быть в общем случае?

[valerych]

После перехода к полярным координатам можно в явном виде найти плотность случайной величины $\rho^2$. Эта плотность является плотностью случайной величины $(X-A)^\top \Sigma^{-1}(X-A)$. По всей видимости, не $\rho$, а случайная величина $\rho^b$ имеет гамма-распределение. Параметры можно уточнить из вида полученной плотности.

[AndreyL]

А можно чуть подробнее, как "в явном виде найти плотность случайной величины $\rho^2$ "? После перехода $Y = \Lambda^{-\frac12} S^\top (X-A)$ или $Y = \Sigma^{-\frac12}(X-A)$ мы имеем плотность распределения $p(Y)=\frac{b \Gamma \left(\frac{n}{2}\right)}{(2 \pi )^{n/2} \Gamma \left(\frac{n}{2 b}\right)} \exp \left( - \frac{1}{2} \left(Y.Y ^\top \right)^b \right)$. При этом $(X-A)^\top \Sigma^{-1}(X-A)=Y.Y ^\top$. Под экспонентой стоит $\rho^2=Y.Y ^\top$. А дальше что? Ведь плотность одномерной случайной величины $\rho^2$ не может быть $p(\rho^2)=\frac{b \Gamma \left(\frac{n}{2}\right)}{(2 \pi )^{n/2} \Gamma \left(\frac{n}{2 b}\right)} \exp \left( - \frac{1}{2} \left(\rho^2 \right)^b \right)$, поскольку если ядром плотности является $\exp \left( - \frac{1}{2} \left(\rho^2 \right)^b \right)$, то плотность получается $p(\rho^2)=\frac{2^{-1/b} e^{-\frac{\left(\rho^2 \right)^b}{2}}}{\Gamma \left(1+\frac{1}{b}\right)}$, которая не зависит от $n$.

[AndreyL]

Правильно ли я понимаю, что для того, чтобы получить плотность распределения величины $\gamma = \left(Y.Y ^\top \right)^b$ нужно сначала получить интегральную функцию, проинтегрировав плотность $p(Y)$ по всем компонентам вектора $Y$ внутри гипершара радиуса $\gamma ^{1/2b}$, а потом уже взять производную по $\gamma$?

[AndreyL]

Нашел ошибку в плотности многомерного экспоненциально-степенного распределения, должно быть так $p(X)=\frac{b \Gamma \left(\frac{n}{2}\right)}{(2 \pi )^{n/2} \Gamma \left(\frac{n}{2 b}\right) \sqrt {|\Sigma|}} \exp \left( - \left(\frac{1}{2} \left(X-A \right).\Sigma^{-1} .\left(X-A \right) \right)^b \right)$, т.е. множитель $\frac{1}{2}$ тоже под степенью.
После перехода к сферическим координатам проинтегрировал плотность по всем компонентам вектора $Y$ внутри гипершара радиуса $\gamma ^{1/2b}$ для $n=2$ и продифференцировал по $\gamma$, получилась плотность $p(\gamma)=\frac{e^{-2^{-b} \gamma} \gamma^{\frac{1}{b}-1}}{2 \Gamma \left(\frac{1}{b}\right)}$.
То же самое для $n=3$, тогда $p(\gamma)=\frac{e^{-2^{-b} \gamma} \gamma^{\frac{3}{2 b}-1}}{2 \sqrt{2} \Gamma \left(\frac{3}{2 b}\right)}$.
Теперь вопрос - на что это похоже? Хотелось бы свести длину вектора (точнее некоторую функцию от длины вектора) к стандартным распределениям.

[valerych]

Вы по сложному пути пошли при вычисления плотности. До этого подставили Вы правильно при переходе к сферическим координатам, но забыли на якобиан преобразования умножить. Поэтому и оказалось, что нет зависимости от $n$.

[AndreyL]

Не совсем понял, как здесь использовать якобиан, ведь переход к сферическим координатам не меняет задачу, а только упрощает решение, координаты изначально могли быть сферическими, тогда матрица перехода просто единичная.

-- Сб авг 20, 2022 4:07 am --

Не совсем понял, как здесь использовать якобиан, ведь переход к сферическим координатам не меняет задачу, а только упрощает решение, координаты изначально могли быть сферическими, тогда матрица перехода просто единичная.

[valerych]

Если случайный вектор $X$ имеет плотность $f(x)$, то случайный вектор $Y=h(X)$ имеет плотность $f(g(x)) |\det g'(x) |$, где $g=h^{-1}$, если функция $h$ обратима. Чтобы это проверить, запишите вероятность попадания $Y$ в произвольную область и сделайте замену переменных. Не забудьте, что при замене переменных под интегралом нужно умножать на якобиан преобразования.

[AndreyL]

Да вроде-бы на все домножил, если случайный вектор $X$ имеет плотность распределения $p(X)=\frac{b \Gamma \left(\frac{n}{2}\right)}{(2 \pi )^{n/2} \Gamma \left(\frac{n}{2 b}\right) \sqrt {|\Sigma|}} \exp \left( - \left(\frac{1}{2} \left(X-A \right).\Sigma^{-1} .\left(X-A \right) \right)^b \right)$, то вектор $Y = \Lambda^{-\frac12} S^\top (X-A)$ или $Y = \Sigma^{-\frac12}(X-A)$ подчиняется распределению с плотностью $p(Y)=\frac{b \Gamma \left(\frac{n}{2}\right)}{(2 \pi )^{n/2} \Gamma \left(\frac{n}{2 b}\right)} \exp \left( - \left(\frac{1}{2}Y.Y \right)^b \right)$. Подскажите, пожалуйста, где не так. Но вопрос в том, какому распределению подчиняется скалярная величина $\sqrt {Y.Y}$?

[valerych]

Это правильно. Теперь нужно рассмотреть случайный вектор $Z=(\rho, \theta_1,\ldots, \theta_{n-1}) $, в котором $\rho=\sqrt{Y_1^2+\ldots+Y_n^2}$, $\theta_i$ - углы, определяющие положение точки на сфере радиуса $\rho$. Якобиан обратного преобразования равен $\rho^{n-1}\varphi(\theta)$, где $\varphi$ - функция, зависящая только от углов. Теперь так же, как и для вектора $Y$, найдите плотность $Z$. Получится $c(\theta) \rho^{n-1}\exp(-\rho^{2b}/2^b)$, где $c$ - функция углов. Отсюда уже легко найти плотность $\rho=\sqrt{Y^{\top} Y}$. Собственно, это и есть её выражение с точностью до константы.

[AndreyL]

Это для меня сложновато.
Ладно. Мне по техническим причинам пришлось изменить вид плотности распределения, теперь она выглядит так $p(X)=\frac{2^{\frac{(b-1)n}{2 b}}b^{-\frac{n}{2 b}} \Gamma \left(\frac{n}{2}\right)}{(2 \pi )^{n/2} \Gamma \left(\frac{n}{2 b}\right) \sqrt {|\Sigma|}} \exp \left( -\frac{1}{2 b} \left( \left(X-A \right).\Sigma^{-1} .\left(X-A \right) \right)^b \right)$. Тогда, если я не ошибся, расстояние Махаланобиса $\rho=\sqrt{\left(X-A \right).\Sigma^{-1} .\left(X-A \right)}$ подчиняется четырехпараметрическому гамма-распределению с параметрами $\left[\frac{n}{2 b},2^{\left.\frac{1}{2}\right/b} b^{\left.\frac{1}{2}\right/b},2 b,0\right]$ и плотностью $\frac{\left(2 b \right)^{1-\frac{n}{2 b}} e^{-\frac{\rho ^{2 b}}{2 b}} \rho ^{n-1}}{\Gamma \left(\frac{n}{2 b}\right)}$, или, что тоже самое, величина $\gamma=\rho^{2b}=\left( \left(X-A \right).\Sigma^{-1} .\left(X-A \right) \right)^b$ подчиняется гамма-распределению с параметрами $\frac{n}{2b}$ и $2b$ и плотностью $\frac{e^{-\frac{\gamma }{2 b}} \left(2 b \right)^{-\frac{n}{2 b}} \gamma ^{\frac{n}{2 b}-1}}{\Gamma \left(\frac{n}{2 b}\right)}$
Сразу возник вопрос - какому распределению будет подчиняться скалярное произведение вектора $X$ на неслучайный вектор $B$? Вроде бы должно быть одномерное распределение с центром $A.B^\top$, матрицей $\Sigma=\sigma^2=B.A.B^\top$ и тем же степенным параметром $b$, но пока не получается.