Смеси распределений

[Insearch]

Ищу литреатуру/статьи на тему "Аппроксимация (моделирование) произвольного распределения в виде смеси нормальных", можно на англ.

Заранее спасибо!

[Женисбек]

В.Ю. Королев. Вероятностно-статистический анализ хаотических процессов с помощью смешанных гауссовских моделей. Декомпозиция волатильности финансовых индексов и турбулентной плазмы. Москва, Издательство ИПИ РАН, 2007.

Сам не читал, просто, когда был студентом, слышал, что этим занимаются на кафедре.

[Insearch]

Женисбек, спасибо за ссылку.

Вообще хотелось бы здесь услышать мнение людей, сталкивавшися с подобной задачей, ведь, на сколько я понимаю, литературы не так уж и много по данной теме.

[Henrylee]

Insearch писал(а):

Ищу литреатуру/статьи на тему "Аппроксимация (моделирование) произвольного распределения в виде смеси нормальных", можно на англ.

Заранее спасибо!

Не очень понятно, что именно требуется - моделировать смеси или, взяв произвольное распределение, аппроксимировать его в каком-то смысле нормальной смесью?
По одномерным смесям есть статья Круглова В.М. "Смеси вероятностных распределений". И еще книга В.М. Круглова и В.Ю. Королева "Предельные теоремы для случайных сумм"

[PAV]

Основные методы, применяемые для распознавания рукописного текста, раздел 1.2.2.

McLachlan G., Peel D. — Finite Mixture Models

Te-Won Lee, Michel S.Lewicki. The Generalized Gaussian Mixture Model Using ICA. MIT Press Cambridge, MA, USA, 1999.

По ссылкам на эти источники можно еще много нарыть, тема известная, используйте http://scholar.google.com

[Malkovich]

Insearch,
Если не секрет, для чего нужен инструмент такой аппроксимации?
Может смесь не обязательно нормальных распределений тоже подойдет? Например. экспоненциальных. Я что-то прорабатывал в этом направлении.

[getbraine]

вы бы не могли поделиться примером того как разделяются смеси распределений?

[ASA]

Insearch в сообщении #132298 писал(а):

"Аппроксимация (моделирование) произвольного распределения в виде смеси нормальных"

Что под смесью понимается? Сумма нормальных и независимых СВ тоже нормальная СВ. Зачем моделировать смесью?

[bubu gaga]

ASA писал(а):

Что под смесью понимается? Сумма нормальных и независимых СВ тоже нормальная СВ. Зачем моделировать смесью?

Их смешивает цепь Маркова (ну по крайней мере в тех, с которыми я знаком)

[PAV]

ASA в сообщении #194166 писал(а):

Что под смесью понимается? Сумма нормальных и независимых СВ тоже нормальная СВ. Зачем моделировать смесью?

Смесь распределений - это распределение, плотность которого имеет вид

$$f(x)=\sum_{i=1}^n\alpha_i f_i(x)$$

где $f_i$ - плотности базовых распределений, $\alpha_i$ - числовые коэффициенты (веса). Смеси - это популярный способ аппроксимировать реальные данные, которые могут быть не унимодальными, не симметричными и т.д. Смесь даже обычных нормальных распределений (при достаточном количестве слагаемых) может достаточно хорошо подстроиться под данные. Подбор параметров базовых распределений и весов обычно делается методом максимального правдоподобия, практически - итеративно с помощью известного алгоритма EM (expectation maximization).

[ASA]

Insearch писал(а):

Ищу литреатуру/статьи на тему "Аппроксимация (моделирование) произвольного распределения в виде смеси нормальных", можно на англ.

Заранее спасибо!

PAV писал(а):

Смесь распределений - это распределение, плотность которого имеет вид

$$f(x)=\sum_{i=1}^n\alpha_i f_i(x)$$

где $f_i$ - плотности базовых распределений, $\alpha_i$ - числовые коэффициенты (веса).

Стало быть, речь идет о стандартной задаче нахождения параметров распределения $\alpha_i$ и параметров нормального распределения с плотностью $f_i(x),\quad i=1,\dots,n$. Есть куча методов. Какая такая есть специфика у этой задачи?

Сообщение xalienx, последовавшее за этим сообщением, с просьбой помочь найти книгу Королев В.Ю. «Смешанные гауссовские вероятностные модели реальных процессов» оделено и перемещено в соответствующий форум.