2014 dxdy logo

Научный форум dxdy

Математика, Физика, Computer Science, Machine Learning, LaTeX, Механика и Техника, Химия,
Биология и Медицина, Экономика и Финансовая Математика, Гуманитарные науки


Правила форума


Посмотреть правила форума



Начать новую тему Ответить на тему
 
 Многомерное нормальное распределение
Сообщение07.07.2017, 19:42 


05/10/10
152
Здравствуйте. Читаю "Приложение С. Гауссовы случайные величины и гауссовы случайные поля" в книге Д.С. Горбунов, В.А. Рубаков "Введение в теорию ранней Вселенной. Космологические возмущения. Инфляционная теория".
Там рассматривается набор случайных величин $q_1,\ldots,q_N$ и говорится, что он называется Гауссовым, если соответствующая функция распределения имеет вид
$$
F(q_1,\ldots,q_N)\equiv F(q) = \mathscr{N}\exp\left\{-\dfrac{1}{2}\,q_mM_{mn}q_n+L_nq_n\right\},\quad(\text{C.2})
$$
где по повторяющимся индексам подразумевается суммирование от $1$ до $N$, $M_{mn}$ и $L_n$ не зависят от $q_k$ и $M_{mn}$ --- симметричная невырожденная матрица с действительными элементами. Положительный множитель $\mathscr{N}$ подбирается из условия нормировки на единичную вероятность
$$
\int{F(q)d^Nq}=1.\quad(\text{C.3})
$$
Для сходимости интеграла необходимо и достаточно, что квадратичная форма $q_mM_{mn}q_n$ была положительно определенной. Подстановка
$$
q_m=\tilde{q}_m+D_{mn}L_n,\quad D_{mn}=\left(M^{-1}\right)_{mn}\quad(\text{C.4})
$$
в выражение (C.2) дает функцию распределения для величин $\tilde{q}_n$. В книге указано, что функция будет иметь вид
$$
F(\tilde{q})=\mathscr{N}\exp\left\{-\dfrac{1}{2}\tilde{q}_mM_{mn}\tilde{q}_n\right\}.\quad(\text{C.5})
$$
И вот здесь мне непонятен один момент. Я записала исходное выражение в таком виде:
$$
F(q) = \mathscr{N}\exp\left\{-\dfrac{1}{2}q^{T}Mq+L^{T}q\right\},\quad(\text{1})
$$
где $q$ и $L$ --- вектор-столбцы, составленные из значений $q_1,\ldots,q_N$, $L_1,\ldots,L_N$ соответственно. Тогда подстановка (C.4) выглядит как
$$
\begin{array}{l}
q=\tilde{q}+M^{-1}L,\\[3pt]
q^{T}=\tilde{q}^T+L^T\left(M^{-1}\right)^{T}=\tilde{q}^T+L^TM^{-1}\quad\text{(так как $M$ симметрична)}.\quad(\text{2})
\end{array}
$$
В этом случае выражение (1) принимает вид
$$
F(q) = \mathscr{N}\exp\left\{-\dfrac{1}{2}\tilde{q}^TM\tilde{q}+\dfrac{1}{2}L^{T}M^{-1}L\right\}.\quad(\text{3}).
$$
Не могу понять, почему у меня выражение (3) не совпадает с выражением (С.5).

 Профиль  
                  
 
 Re: Многомерное нормальное распределение
Сообщение07.07.2017, 21:54 
Заслуженный участник
Аватара пользователя


23/07/08
10677
Crna Gora
У Вас, на самом деле, всё получилось. В книге просто не написали, что нормировочный коэффициент $\mathscr{N}$ в формуле $(\text{C.5})$ — не тот, который был в формуле $(\text{C.2})$. Но это не так важно. Важно то, что слагаемое $\frac{1}{2}L^{T}M^{-1}L$, которое у Вас получилось под экспонентой, не зависит от $\tilde q$, и вообще, это просто скалярная константа, и $\exp(\frac{1}{2}L^{T}M^{-1}L)$ можно отнести к новому $\mathscr{N}$.

 Профиль  
                  
 
 Re: Многомерное нормальное распределение
Сообщение07.07.2017, 21:55 


05/10/10
152
svv
нет, в книге написано, что коэффициент тот же самый. Это меня и смутило изначально.

 Профиль  
                  
 
 Re: Многомерное нормальное распределение
Сообщение07.07.2017, 21:58 
Заслуженный участник
Аватара пользователя


23/07/08
10677
Crna Gora
Попробуйте посмотреть, что будет в одномерном варианте — там всё должно быть очевидно.

 Профиль  
                  
 
 Re: Многомерное нормальное распределение
Сообщение07.07.2017, 22:05 


05/10/10
152
svv
уже пробовала, все равно получается лишний множитель в нормировке. Может, в учебнике опечатка? Если смотреть на обычное определение в учебниках, то оно имеет вид
$$
\dfrac{1}{(2\pi)^{N/2}(\det{M})^{1/2}}\exp\left\{-\dfrac{1}{2}(q-\mu)^T M (q-\mu)\right\},
$$
где $\mu$ --- вектор, задающий средние значения. Если там раскрыть скобки и положить $\mu=M^{-1}L$, то получится выражение
$$
\dfrac{1}{(2\pi)^{N/2}(\det{M})^{1/2}}\exp\left\{-\dfrac{1}{2}q^T M q + L^{T}q -\dfrac{1}{2}L^{T}M^{-1}L\right\},
$$
и вот подстановка из учебника для него как раз даст нужный результат.

 Профиль  
                  
 
 Re: Многомерное нормальное распределение
Сообщение07.07.2017, 22:15 
Заслуженный участник
Аватара пользователя


23/07/08
10677
Crna Gora
Anna from Svetl в сообщении #1232097 писал(а):
все равно получается лишний множитель в нормировке
Конечно, он не может не получиться. Ведь принципиально это — выделение полного квадрата:$$Ce^{-x^2-2xa}=Ce^{-x^2-2xa-a^2}e^{a^2}=(Ce^{a^2})e^{-(x+a)^2}=\tilde C e^{-\tilde x^2}$$И свободный член не может не появиться, а когда он появился, его надо куда-то девать.
Anna from Svetl в сообщении #1232097 писал(а):
Если смотреть на обычное определение в учебниках, то оно имеет вид$$\dfrac{1}{(2\pi)^{N/2}(\det{M})^{1/2}}\exp\left\{-\dfrac{1}{2}(q-\mu)^T M (q-\mu)\right\}$$
Эта формула хорошая, но в ней предполагается, что «центр», то есть вектор $\mu$, известен. Фактически, если такая формула получена, остаётся только обозначить $\tilde q=q-\mu$. Вопрос же в том, как сдвигом преобразовать к такому виду $\exp\left\{-\dfrac{1}{2}\,q_mM_{mn}q_n+L_nq_n\right\}$. Я утверждаю, что это невозможно без изменения нормировочного коэффициента, и думаю, что это проблема небольшая.

 Профиль  
                  
 
 Re: Многомерное нормальное распределение
Сообщение07.07.2017, 22:23 


05/10/10
152
svv
вот именно, требуется изменение нормировки, при том что в учебнике четко сказано (и даже дано задание показать), что нормировочный множитель в обоих выражениях один и тот же. Кроме того, там также сказано, что $\left(M^{-1}\right)_{mn}L_n$ --- среднее значение.

 Профиль  
                  
 
 Re: Многомерное нормальное распределение
Сообщение07.07.2017, 22:39 
Заслуженный участник
Аватара пользователя


23/07/08
10677
Crna Gora
Вы можете проверить в WolframAlpha, что
$\int\limits_{-\infty}^{+\infty}e^{-\frac 1 2 x^2} dx=\sqrt{2\pi}$
$\int\limits_{-\infty}^{+\infty}e^{-\frac 1 2 x^2+x} dx=\sqrt{2e\pi}$
И, таким образом, им нужны разные коэффициенты.

Это всё, что я могу сделать для Вас. :P

 Профиль  
                  
 
 Re: Многомерное нормальное распределение
Сообщение07.07.2017, 23:08 


05/10/10
152
svv
спасибо. Увы, в таком случае остается загадкой, что имели вв виду авторы. Особенно с учетом того, что далее они делают такую же замену
$$
q_m=\tilde{q}_m+\left(M^{-1}\right)_{mn}j_n
$$
в производящей функции для корреляторов
$$
Z(j)\equiv Z(j_1,\ldots, j_N)=\int{F(q_1,\ldots,q_N)\mathrm{e}^{j_nq_n}d^Nq},
$$
полагая, что в $F(q)$ значения $L_n=0$, и получают
$$
Z(j)=\exp\left\{\dfrac{1}{2}j_m\left(M^{-1}\right)_{mn}j_n\right\}\int{F(\tilde{q})}d^Nq=\exp\left\{\dfrac{1}{2}j_m\left(M^{-1}\right)_{mn}j_n\right\}.
$$

 Профиль  
                  
 
 Re: Многомерное нормальное распределение
Сообщение07.07.2017, 23:19 
Заслуженный участник
Аватара пользователя


23/07/08
10677
Crna Gora
Да, это хорошее подтверждение.

 Профиль  
                  
 
 Re: Многомерное нормальное распределение
Сообщение07.07.2017, 23:30 


05/10/10
152
svv
т.е. все-таки в исходном выражении (С.2) опечатка?

 Профиль  
                  
 
 Re: Многомерное нормальное распределение
Сообщение07.07.2017, 23:44 
Заслуженный участник
Аватара пользователя


23/07/08
10677
Crna Gora
В выражении (C.2) самом по себе ошибки нет: такое распределение — это, без сомнения, многомерное нормальное распределение, только в «сыром» виде. Нужно только в (C.5) как-то иначе обозначить коэффициент, например, $\tilde{\mathscr{N}}$, и указать связь:
$\tilde{\mathscr{N}}=\mathscr{N}\exp(\frac{1}{2}L^{T}M^{-1}L)$.
Соответственно, задание, в котором требуется найти явный вид нормировочных коэффициентов, надо переформулировать.

Пример из книги с производящей функцией, который Вы привели, дважды хорош. Во-первых, он показывает, что при сдвиге независимой (векторной) переменной у авторов возникает тот же «лишний» множитель, что и у Вас. Во-вторых, он показывает, что это не создаёт каких-либо проблем, а множитель лишь становится составной частью правильного конечного результата.

 Профиль  
                  
 
 Re: Многомерное нормальное распределение
Сообщение08.07.2017, 00:57 


05/10/10
152
svv
спасибо. Буду считать, что авторы просто неверно поставили задачу, тем более что для дальнейшего изложения это пока, вроде, особого значения не имеет.

 Профиль  
                  
Показать сообщения за:  Поле сортировки  
Начать новую тему Ответить на тему  [ Сообщений: 13 ] 

Модераторы: Модераторы Математики, Супермодераторы



Кто сейчас на конференции

Сейчас этот форум просматривают: нет зарегистрированных пользователей


Вы не можете начинать темы
Вы не можете отвечать на сообщения
Вы не можете редактировать свои сообщения
Вы не можете удалять свои сообщения
Вы не можете добавлять вложения

Найти:
Powered by phpBB © 2000, 2002, 2005, 2007 phpBB Group