2014 dxdy logo

Научный форум dxdy

Математика, Физика, Computer Science, Machine Learning, LaTeX, Механика и Техника, Химия,
Биология и Медицина, Экономика и Финансовая Математика, Гуманитарные науки


Правила форума


Посмотреть правила форума



Начать новую тему Ответить на тему
 
 Многомерное нормальное распределение
Сообщение07.07.2017, 19:42 


05/10/10
152
Здравствуйте. Читаю "Приложение С. Гауссовы случайные величины и гауссовы случайные поля" в книге Д.С. Горбунов, В.А. Рубаков "Введение в теорию ранней Вселенной. Космологические возмущения. Инфляционная теория".
Там рассматривается набор случайных величин $q_1,\ldots,q_N$ и говорится, что он называется Гауссовым, если соответствующая функция распределения имеет вид
$$
F(q_1,\ldots,q_N)\equiv F(q) = \mathscr{N}\exp\left\{-\dfrac{1}{2}\,q_mM_{mn}q_n+L_nq_n\right\},\quad(\text{C.2})
$$
где по повторяющимся индексам подразумевается суммирование от $1$ до $N$, $M_{mn}$ и $L_n$ не зависят от $q_k$ и $M_{mn}$ --- симметричная невырожденная матрица с действительными элементами. Положительный множитель $\mathscr{N}$ подбирается из условия нормировки на единичную вероятность
$$
\int{F(q)d^Nq}=1.\quad(\text{C.3})
$$
Для сходимости интеграла необходимо и достаточно, что квадратичная форма $q_mM_{mn}q_n$ была положительно определенной. Подстановка
$$
q_m=\tilde{q}_m+D_{mn}L_n,\quad D_{mn}=\left(M^{-1}\right)_{mn}\quad(\text{C.4})
$$
в выражение (C.2) дает функцию распределения для величин $\tilde{q}_n$. В книге указано, что функция будет иметь вид
$$
F(\tilde{q})=\mathscr{N}\exp\left\{-\dfrac{1}{2}\tilde{q}_mM_{mn}\tilde{q}_n\right\}.\quad(\text{C.5})
$$
И вот здесь мне непонятен один момент. Я записала исходное выражение в таком виде:
$$
F(q) = \mathscr{N}\exp\left\{-\dfrac{1}{2}q^{T}Mq+L^{T}q\right\},\quad(\text{1})
$$
где $q$ и $L$ --- вектор-столбцы, составленные из значений $q_1,\ldots,q_N$, $L_1,\ldots,L_N$ соответственно. Тогда подстановка (C.4) выглядит как
$$
\begin{array}{l}
q=\tilde{q}+M^{-1}L,\\[3pt]
q^{T}=\tilde{q}^T+L^T\left(M^{-1}\right)^{T}=\tilde{q}^T+L^TM^{-1}\quad\text{(так как $M$ симметрична)}.\quad(\text{2})
\end{array}
$$
В этом случае выражение (1) принимает вид
$$
F(q) = \mathscr{N}\exp\left\{-\dfrac{1}{2}\tilde{q}^TM\tilde{q}+\dfrac{1}{2}L^{T}M^{-1}L\right\}.\quad(\text{3}).
$$
Не могу понять, почему у меня выражение (3) не совпадает с выражением (С.5).

 Профиль  
                  
 
 Re: Многомерное нормальное распределение
Сообщение07.07.2017, 21:54 
Заслуженный участник
Аватара пользователя


23/07/08
10910
Crna Gora
У Вас, на самом деле, всё получилось. В книге просто не написали, что нормировочный коэффициент $\mathscr{N}$ в формуле $(\text{C.5})$ — не тот, который был в формуле $(\text{C.2})$. Но это не так важно. Важно то, что слагаемое $\frac{1}{2}L^{T}M^{-1}L$, которое у Вас получилось под экспонентой, не зависит от $\tilde q$, и вообще, это просто скалярная константа, и $\exp(\frac{1}{2}L^{T}M^{-1}L)$ можно отнести к новому $\mathscr{N}$.

 Профиль  
                  
 
 Re: Многомерное нормальное распределение
Сообщение07.07.2017, 21:55 


05/10/10
152
svv
нет, в книге написано, что коэффициент тот же самый. Это меня и смутило изначально.

 Профиль  
                  
 
 Re: Многомерное нормальное распределение
Сообщение07.07.2017, 21:58 
Заслуженный участник
Аватара пользователя


23/07/08
10910
Crna Gora
Попробуйте посмотреть, что будет в одномерном варианте — там всё должно быть очевидно.

 Профиль  
                  
 
 Re: Многомерное нормальное распределение
Сообщение07.07.2017, 22:05 


05/10/10
152
svv
уже пробовала, все равно получается лишний множитель в нормировке. Может, в учебнике опечатка? Если смотреть на обычное определение в учебниках, то оно имеет вид
$$
\dfrac{1}{(2\pi)^{N/2}(\det{M})^{1/2}}\exp\left\{-\dfrac{1}{2}(q-\mu)^T M (q-\mu)\right\},
$$
где $\mu$ --- вектор, задающий средние значения. Если там раскрыть скобки и положить $\mu=M^{-1}L$, то получится выражение
$$
\dfrac{1}{(2\pi)^{N/2}(\det{M})^{1/2}}\exp\left\{-\dfrac{1}{2}q^T M q + L^{T}q -\dfrac{1}{2}L^{T}M^{-1}L\right\},
$$
и вот подстановка из учебника для него как раз даст нужный результат.

 Профиль  
                  
 
 Re: Многомерное нормальное распределение
Сообщение07.07.2017, 22:15 
Заслуженный участник
Аватара пользователя


23/07/08
10910
Crna Gora
Anna from Svetl в сообщении #1232097 писал(а):
все равно получается лишний множитель в нормировке
Конечно, он не может не получиться. Ведь принципиально это — выделение полного квадрата:$$Ce^{-x^2-2xa}=Ce^{-x^2-2xa-a^2}e^{a^2}=(Ce^{a^2})e^{-(x+a)^2}=\tilde C e^{-\tilde x^2}$$И свободный член не может не появиться, а когда он появился, его надо куда-то девать.
Anna from Svetl в сообщении #1232097 писал(а):
Если смотреть на обычное определение в учебниках, то оно имеет вид$$\dfrac{1}{(2\pi)^{N/2}(\det{M})^{1/2}}\exp\left\{-\dfrac{1}{2}(q-\mu)^T M (q-\mu)\right\}$$
Эта формула хорошая, но в ней предполагается, что «центр», то есть вектор $\mu$, известен. Фактически, если такая формула получена, остаётся только обозначить $\tilde q=q-\mu$. Вопрос же в том, как сдвигом преобразовать к такому виду $\exp\left\{-\dfrac{1}{2}\,q_mM_{mn}q_n+L_nq_n\right\}$. Я утверждаю, что это невозможно без изменения нормировочного коэффициента, и думаю, что это проблема небольшая.

 Профиль  
                  
 
 Re: Многомерное нормальное распределение
Сообщение07.07.2017, 22:23 


05/10/10
152
svv
вот именно, требуется изменение нормировки, при том что в учебнике четко сказано (и даже дано задание показать), что нормировочный множитель в обоих выражениях один и тот же. Кроме того, там также сказано, что $\left(M^{-1}\right)_{mn}L_n$ --- среднее значение.

 Профиль  
                  
 
 Re: Многомерное нормальное распределение
Сообщение07.07.2017, 22:39 
Заслуженный участник
Аватара пользователя


23/07/08
10910
Crna Gora
Вы можете проверить в WolframAlpha, что
$\int\limits_{-\infty}^{+\infty}e^{-\frac 1 2 x^2} dx=\sqrt{2\pi}$
$\int\limits_{-\infty}^{+\infty}e^{-\frac 1 2 x^2+x} dx=\sqrt{2e\pi}$
И, таким образом, им нужны разные коэффициенты.

Это всё, что я могу сделать для Вас. :P

 Профиль  
                  
 
 Re: Многомерное нормальное распределение
Сообщение07.07.2017, 23:08 


05/10/10
152
svv
спасибо. Увы, в таком случае остается загадкой, что имели вв виду авторы. Особенно с учетом того, что далее они делают такую же замену
$$
q_m=\tilde{q}_m+\left(M^{-1}\right)_{mn}j_n
$$
в производящей функции для корреляторов
$$
Z(j)\equiv Z(j_1,\ldots, j_N)=\int{F(q_1,\ldots,q_N)\mathrm{e}^{j_nq_n}d^Nq},
$$
полагая, что в $F(q)$ значения $L_n=0$, и получают
$$
Z(j)=\exp\left\{\dfrac{1}{2}j_m\left(M^{-1}\right)_{mn}j_n\right\}\int{F(\tilde{q})}d^Nq=\exp\left\{\dfrac{1}{2}j_m\left(M^{-1}\right)_{mn}j_n\right\}.
$$

 Профиль  
                  
 
 Re: Многомерное нормальное распределение
Сообщение07.07.2017, 23:19 
Заслуженный участник
Аватара пользователя


23/07/08
10910
Crna Gora
Да, это хорошее подтверждение.

 Профиль  
                  
 
 Re: Многомерное нормальное распределение
Сообщение07.07.2017, 23:30 


05/10/10
152
svv
т.е. все-таки в исходном выражении (С.2) опечатка?

 Профиль  
                  
 
 Re: Многомерное нормальное распределение
Сообщение07.07.2017, 23:44 
Заслуженный участник
Аватара пользователя


23/07/08
10910
Crna Gora
В выражении (C.2) самом по себе ошибки нет: такое распределение — это, без сомнения, многомерное нормальное распределение, только в «сыром» виде. Нужно только в (C.5) как-то иначе обозначить коэффициент, например, $\tilde{\mathscr{N}}$, и указать связь:
$\tilde{\mathscr{N}}=\mathscr{N}\exp(\frac{1}{2}L^{T}M^{-1}L)$.
Соответственно, задание, в котором требуется найти явный вид нормировочных коэффициентов, надо переформулировать.

Пример из книги с производящей функцией, который Вы привели, дважды хорош. Во-первых, он показывает, что при сдвиге независимой (векторной) переменной у авторов возникает тот же «лишний» множитель, что и у Вас. Во-вторых, он показывает, что это не создаёт каких-либо проблем, а множитель лишь становится составной частью правильного конечного результата.

 Профиль  
                  
 
 Re: Многомерное нормальное распределение
Сообщение08.07.2017, 00:57 


05/10/10
152
svv
спасибо. Буду считать, что авторы просто неверно поставили задачу, тем более что для дальнейшего изложения это пока, вроде, особого значения не имеет.

 Профиль  
                  
Показать сообщения за:  Поле сортировки  
Начать новую тему Ответить на тему  [ Сообщений: 13 ] 

Модераторы: Модераторы Математики, Супермодераторы



Кто сейчас на конференции

Сейчас этот форум просматривают: dgwuqtj


Вы не можете начинать темы
Вы не можете отвечать на сообщения
Вы не можете редактировать свои сообщения
Вы не можете удалять свои сообщения
Вы не можете добавлять вложения

Найти:
Powered by phpBB © 2000, 2002, 2005, 2007 phpBB Group