Байесовский подход и MCMC

[galachel]

Дан временной ряд, как мне сделать прогноз по этому временному ряду, используя байесовский подход и для оценки плотностей использоваться Марков Чейн Монте-Карло. Объясните пожалуйста алгоритм действий и объясните как оценить плотность с помощью алгоритма MCMC, как это работает вообще. Я в этом деле новичок.

[Toucan]

Тема перемещена из форума «Computer Science» в форум «Помогите решить / разобраться (М)»

[dsge]

1. Выбрать спецификацию модели (AR, VAR etc.); 2. Выбрать прайоры для параметров; 3. Используя данные, оценит апостериорное распределение для параметров с помощью МСМС; 4. используя это и спецификацию модели получить распределение для прогноза.
Гугл: мсмс, Метрополис-Хастингс, плотность распределения.

[galachel]

dsge в сообщении #1090441 писал(а):

1. Выбрать спецификацию модели (AR, VAR etc.); 2. Выбрать прайоры для параметров; 3. Используя данные, оценит апостериорное распределение для параметров с помощью МСМС; 4. используя это и спецификацию модели получить распределение для прогноза.
Гугл: мсмс, Метрополис-Хастингс, плотность распределения.

Спасибо большое У меня вопросы: Что значит выбрать спецификацию модели? Приведи пожалуйста примеры спецификаций и что значит выбрать прайоры для параметров? Это значит выбрать априорные распределения для каждого параметра? Если так, то как их выбирать. То есть я должен сам сказать, что какой то параметр будет иметь например нормальное распределение или показательное?

[dsge]

galachel в сообщении #1090480 писал(а):

о значит выбрать спецификацию модели?

dsge в сообщении #1090441 писал(а):

(AR, VAR etc.);

AR - это авторегрессия; VAR - векторная авторегрессия.

galachel в сообщении #1090480 писал(а):

Это значит выбрать априорные распределения для каждого параметра? Если так, то как их выбирать.

Некоторые параметры могут быть ограничены, другие положительные, например стандартные отклонения.

[galachel]

Объясните пожалуйста на конкретном примере, из общих слов не совсем понятно или есть какая то литература или ссылки на примеры. Вот например есть модель по моему это называется ARIMA
$y_t=m_{t-1}+\varepsilon_t$
$m_t=m_{t-1}+\alpha\varepsilon_t$
Есть набор данных Date (какой то временной ряд). У модели ARIMA есть параметр $\alpha$, байесовский подход записывается так $p(\alpha|Date)=\frac{p(Date|\alpha)p(\alpha)}{p(Date)}$, (то есть как изменится значение параметра, когда мы получили вполне конкретный набор данных Date) и далее, когда нашли выражение для $p(\alpha|Date)$, то по алгоритму Метрополиса_Гастингса находим семплы $\alpha$ из этой плотности. Вот тут возникает несколько вопросов как найти по данному временному ряду плотность $p(Date)$? Как задать $p(\alpha)$ плотность распределение параметра? Как посчитать $p(Date|\alpha)$? И ещё вопрос, если горизонт прогноза например $L=10$, то сколько семплов для $\alpha$ надо брать из плотности $p(\alpha|Date)$ или при конкретных значениях Data (данный временной ряд) будет только одно значение $\alpha$, которое мы потом подставляем в модель ARIMA и дальше по этой модели находим 10 значений $y_t$ (на горизонт прогноза), то есть $y_1, y_2, ..., y_{10}$?

[dsge]

galachel в сообщении #1090834 писал(а):

Вот например есть модель по моему это называется ARIMA
$y_t=m_{t-1}+\varepsilon_t$
$m_t=m_{t-1}+\alpha\varepsilon_t$

Нет, это не ARIMA.

galachel в сообщении #1090834 писал(а):

Как посчитать $p(Date|\alpha)$?

Это функция правдоподобия для ваших данных и модели при фиксированном $\alpha$.

galachel в сообщении #1090834 писал(а):

как найти по данному временному ряду плотность $p(Date)$?

Надо проинтегрировать все правдоподобия по $\alpha$ с учетом его априорного распределения.

galachel в сообщении #1090834 писал(а):

Как задать $p(\alpha)$ плотность распределение параметра?

Задать бета, гамма, Уишарда или равномерным на отрезке распределением.

galachel в сообщении #1090834 писал(а):

И ещё вопрос, если горизонт прогноза например $L=10$, то сколько семплов для $\alpha$ надо брать из плотности $p(\alpha|Date)$

Все.

galachel в сообщении #1090834 писал(а):

или есть какая то литература

Lancaster (2004) An Introduction to Modern Bayesian Econometrics
Bauwens et.al. Bayesian Inference in Dynamic Econometric Models.