многомерное экспоненциально-степенное распределение

[valerych]

AndreyL в сообщении #1563217 писал(а):

Сразу возник вопрос - какому распределению будет подчиняться скалярное произведение вектора $X$ на неслучайный вектор $B$? Вроде бы должно быть одномерное распределение с центром $A.B^\top$, матрицей $\Sigma=\sigma^2=B.A.B^\top$ и тем же степенным параметром $b$, но пока не получается.

Попробуйте взять двумерный вектор $X$, в котором $A = 0$, $\Sigma$ - единичная матрица. Если $B = (1, 0)^\top$, то, согласно Вашей гипотезе, $X_1$ должен быть подчинён тому же закону распределения. Попробуйте найти частную плотность, проинтегрировав совместную плотность по $x_1$ при $b = 2$:

$$ f_2(x_2) = \int\limits_{-\infty}^{+\infty} c\exp\left(- \frac14(x_1^2+ x_2^2)^2\right) dx_1 = ce^{-\frac{x_2^4}4}\int\limits_{-\infty}^{+\infty} \exp\left(-\frac{x_1^2}4(x_1^2 + 2x_2^2)\right)dx_1. $$

Полученный интеграл зависит от $x_2$, поэтому плотность второй компоненты вектора не может иметь вид $ce^{-\frac{x_2^4}4}$.

[AndreyL]

Да, этот интеграл

$$ f_2(x_2) = \int\limits_{-\infty}^{+\infty} c\exp\left(- \frac14(x_1^2+ x_2^2)^2\right) dx_1 = c \frac{e^{-\frac{1}{8} x_2^4} \sqrt{x_2^2} K_{-\frac{1}{4}}\left(\frac{x_2^4}{8}\right)}{\sqrt{2}}$$

совсем не похож на исходную функцию, $x_2$ за экспонентой и множитель $\sqrt{x_2^2} K_{-\frac{1}{4}}\left(\frac{x_2^4}{8}\right)}{\sqrt{2}}$ совсем не равен 1. Здесь $K_{-\frac{1}{4}}$- модифицированная функция Бесселя второго рода, она же функция Макдональда. Но это не моя теория, это вот отсюда Generalized Elliptical Distributions: Theory and Applications, пункт 1.2.4 Affine Transformations and Marginal Distributions на стр. 13 (в файле стр. 27). Может я не правильно понял? Какому тогда распределению подчиняется скалярное произведение? Формально это маргинальное распределение после поворота.

[valerych]

В разделе 1.2.4 речь идёт о характеристических функциях, а не о плотностях. Характеристическую функцию линейного преобразования исходного вектора можно найти, а то, что плотность будет иметь такой же вид, никто не обещает.

[AndreyL]

Я так понял фразу
"According to the assertions above

$$Y\stackrel{d}{=}P_k \left( \mu+R \Lambda U \right)=P_k \mu+R P_k \Lambda U$$

i.e. $Y$ is of the same type as $X$"
что маргинальное распределение такого-же типа, как исходное. Теперь вижу, что это не так. Ладно. Если $k=1$ и в векторе $P_k$ единичка на i-ом месте, то все это должно преобразоваться к $\mu_i+R \Lambda_i U$, где $\Lambda_i$ - i-я строка матрицы $\Lambda$. Если матрица $\Lambda$ единичная, то $\Lambda_i U$ есть маргинальное распределение компоненты единичного вектора на сфере, причем $U$ и $R$ независимы. Тогда зная плотность маргинального распределения компоненты единичного вектора на сфере, можем найти плотность скалярного произведения. Поправьте, пожалуйста, если я где ошибся.

[valerych]

Действительно, в этом случае, зная плотность проекции $U$ на координатную ось и плотность $R$, можно найти плотность $Y$ как свёртку плотностей.

[AndreyL]

Плотность проекции $U$ на координатную ось находится из того, что квадрат этой проекции подчиняется бета-распределению, тогда плотность распределения проекции есть $\frac{\left(1-z^2\right)^{\frac{n-3}{2}}}{B\left(\frac{1}{2},\frac{n-1}{2}\right)}$. Теперь, если плотность распределения длины вектора есть $g(\rho)$, а плотность распределения проекции единичного вектора на ось есть $u(z)$, то функция распределения произведения длины на проекцию есть $f(x)=\int _{-1}^1\int _0^{\frac{x}{z}}g(\rho ) u(z)d\rho dz=\int _0^{\infty }\int _{-1}^{\frac{x}{\rho }}g(\rho ) u(z)dzd\rho$. Или как-то не так?

[valerych]

Там в интегралах может оказаться, что верхний предел меньше нижнего. Можно их записать как двойные интегралы по области $\rho z \leqslant x$.

[AndreyL]

valerych в сообщении #1563548 писал(а):

Там в интегралах может оказаться, что верхний предел меньше нижнего. Можно их записать как двойные интегралы по области $\rho z \leqslant x$.

Попробую так, а то в том виде, который а написал, этот интеграл, похоже, не берется.
Пока выяснил (численно), что скалярное произведение при произвольных центре, ковариационной матрице и векторе проекции действительно подчиняется такому-же распределению, как произведение гамма-на-корень из бета, умноженное на стандарт и добавленное к центру, стандарт и центр были описаны выше.

[AndreyL]

Там действительно с границами интегрирования не так просто, для отрицательных значений $x$ нужно брать $F(x)=\int _{-1}^0\int _\frac{x}{z}^{\infty}g(\rho ) u(z)d\rho dz=\int _{-x}^{\infty }\int _{-1}^{\frac{x}{\rho }}g(\rho ) u(z)dzd\rho$, а для положительных $F(x)=\frac{1}{2}+\int _{0}^1\int _0^{\frac{x}{z}}g(\rho ) u(z)d\rho dz=\frac{1}{2}+\int _0^{\infty }\int _{0}^{\frac{x}{\rho }}g(\rho ) u(z)dzd\rho$. Но это нам погоды не делает, интегралы все равно в общем виде не берутся, а при заданных $b$ и $n$ получаются такие многоэтажные формулы с G-функцией Мейера, что значение функции для одной заданной переменной считается секунды 3, т.е. даже график не построить в разумное время.
Может быть насчитать функции в интересующем диапазоне $b$ и $n$ и аппроксимировать чем нибудь? Пробовал кривыми Пирсона, получается второй тип (симметричная с эксцессом от 1 до 3), но распределение Пирсона 2-го типа ограничено конечным интервалом значений переменной, а у нас распределение явно не ограничено, переменная может принимать любые значения на всей числовой оси.
Подскажите, пожалуйста, какие могут быть подходы.

[AndreyL]

Да, забыл написать, что аппроксимация кривой Пирсона второго типа на самом деле хорошая, но по условию задачи распределение должно быть определено на всех возможных (хотя бы теоретически) значениях переменной.

[valerych]

А для чего аппроксимировать? Какую задачу хотите решить? Если нужно функцию распределения найти, то всегда можно численно по сетке посчитать.

[AndreyL]

По сетке долго. Задача аналогична поиску оптимального линейного классификатора, минимизирующего суммарную
вероятность ошибочной классификации, а для сравнения разных классификаторов нужно еще знать эту вероятность. Фактически для двух распределений с разными параметрами нужно найти точку пересечения плотностей и взять интегралы до этой точки.