Сходимость пуассоновской случайной суммы

[nibble]

$N_{\lambda}$ - случайная величина, имеет распределение Пуассона с параметром $\lambda$.
$X_1$, $X_2$, $X_3$, ... - независимые, одинаково распределённые случайные величины.
$EX_i=0$, $DX_i=1$ (нулевое мат. ожидание и единичная дисперсия)
$N_{\lambda}$, $X_1$, $X_2$, $X_3$, ... - независимы.

$S_{N_{\lambda}}=\sum\limits_{i=1}^{N_{\lambda}} X_i$
По сути, пуассоновская случайная сумма. То есть, число слагаемых - пуассоновская случайная величина.

Требуется доказать, что:
При ${\lambda} \to \infty$
$\frac{S_N}{\sqrt{\lambda}}\Rightarrow N(0, 1)$
$N(0, 1)$ - стандартное нормальное распределение.

Идея вроде простая. Мат. ожидание $N_{\lambda}$ стремится к бесконечности. Следовательно, $N_{\lambda}$ будет достаточно большим, чтобы можно было применить ЦПТ. $\frac{S_N}{\sqrt{\lambda}}$ уже нормирована (мат. ожидание равно нулю, $\sqrt{\lambda}$ - как раз равна n дисперсий).
Но как это сформулировать строго не представляю.
Спасибо.

[--mS--]

nibble в сообщении #418185 писал(а):

Но как это сформулировать строго не представляю.

Например, через характеристические функции.

[_hum_]

А может, попробовать напрямую:
\begin{align*}F_{\frac{S_\tau}{\sqrt{\lambda}}}(u) = \mathbf{P}\left(\frac{S_\tau}{\sqrt{\lambda}} \leq u\right) = \sum_{n = 0}^\infty \mathbf{P}\left(\frac{S_\tau}{\sqrt{\lambda}} \leq u, \tau = n\right) = \sum_{n = 0}^\infty \pi_n \mathbf{P}\left(\frac{S_n}{\sqrt{\lambda}} \leq u \Big|\, \tau = n\right) = \sum_{n = 0}^\infty \pi_n F_{\frac{S_n}{\sqrt{\lambda}}}(u).\end{align*}

\begin{align*}|F_{\frac{S_n}{\sqrt{\lambda}}}(u) - F_{\mathcal{N}(0,1)}(u)| \leq \sum_{n = 0}^\infty \pi_n |F_{\frac{S_n}{\sqrt{\lambda}}}(u)-F_{\mathcal{N}(0,1)}(u)|.\end{align*}
А далее попытаться использовать тот факт, что распределение Пуассона сосредоточено возле $n =\lfloor\lambda\rfloor$ (хотя с ростом $\lambda$ оно все более расплывается, поэтому, ИМХО, надо проводить непосредственные оценки того, что в итоге победит) .

[nibble]

ЦПТ здесь всё-таки никак не применима, я был не прав. $\sqrt{\lambda}$ не равна n дисперсий, и вообще, предположение, что N достаточно большое, чтобы не считать его случайной величиной - слишком большая натяжка даже для идеи доказательства.

Попробовал через характеристические функции:
$\phi_{X_i}(t)=Ee^{itX_i}$
$\phi_{X_1 + ... + X_{N_{\lambda}}}(t)=N_{\lambda} Ee^{itX_i}$
$\phi_{\frac{X_1 + ... + X_{N_{\lambda}}}{\sqrt{\lambda}}}(t)=\phi_{X_1 + ... + X_{N_{\lambda}}}(\frac{t}{\sqrt{\lambda}})=N_{\lambda} Ee^{\frac{itX_i}{\sqrt{\lambda}}$

Тем временем хар. функция для нормального распределения:
$\phi(t)=\exp\left(\mu\,i\,t-\frac{\sigma^2 t^2}{2}\right)$
В случае стандартного нормального распределения:
$\phi(t)=\exp\left(-\frac{t^2}{2}\right)$

Никакой сходимости с ростом $\sqrt{\lambda}$ я не вижу.

Я с самого начала пытался расписать всё напрямую, как _hum_ . И дошел до того же места... Как действовать дальше непонятно. Непонятно, как оценить $\pi_n$ и модуль разности в правой части неравенства.

-- Пн фев 28, 2011 18:51:37 --

Существует такая теорема ("ЦПТ для пуассоновских случайных сумм"):

Цитата:

Рассмотрим \xi_1,\dots,\xi_n — независимые одинаково распределенные случайные величины.
Пусть \exists\mathbb E\xi_i=a (конечное), \exists\mathbb D\xi_i=\sigma^2 (тоже конечная).
N\sim\Pi(\lambda); N и \xi_i независимы \forall\lambda>0.
Тогда при S_\lambda=\sum_{i=1}^{N_\lambda}\xi_i выполняется \mathbb P\biggl(\frac{S_\lambda-\lambda a}{\sqrt{\lambda(a^2+\sigma^2)}}< x\biggr)\underset{\lambda\to\infty}{\overset x\rightrightarrows}\Phi(x).

(http://ru.fcknvermodes.wikia.com/wiki/Теория_13)

Если в неё подставить мои исходные данные (нулевое мат.ожидание и единичную дисперсию), то из этой теоремы вытекает доказываемая мною сходимость. В принципе, этого достаточно. Осталось только научиться доказывать эту самую теорему.
Но преподаватель говорил, что задача очень простая, делается как-то элементарно. Причём нужно учесть, что лямбда в условии - натуральное число. Это вроде как упрощает доказательство.
Будет здорово, если удастся обойтись без "ЦПТ для пуассоновских случайных сумм".

[Хорхе]

nibble в сообщении #418386 писал(а):

$\phi_{X_1 + ... + X_{N_{\lambda}}}(t)=N_{\lambda} Ee^{itX_i}$

Чушь какая-то. Напишите

$$ \phi_{S_{N_{\lambda}}}(t) = \sum E[e^{it S_N} 1_{N_\lambda=N}] $$

и посчитайте

[--mS--]

nibble в сообщении #418386 писал(а):

Причём нужно учесть, что лямбда в условии - натуральное число. Это вроде как упрощает доказательство.
Будет здорово, если удастся обойтись без "ЦПТ для пуассоновских случайных сумм".

Так, открываются новые обстоятельства. Видимо, Ваш преподаватель имеет в виду, что это позволит заменить $N_\lambda$ на сумму независимых и одинаково пуассоновски с параметром 1 распределенных слагаемых $\eta_1+\ldots+\eta_\lambda$. Это никак не упростит задачу, поскольку единственное, что можно сделать - это заменить

$$\frac{S_{N_\lambda}}{\sqrt{\lambda}}=_{st} \frac{S_{\eta_1+\ldots+\eta_\lambda}}{\sqrt{\eta_1+\ldots+\eta_\lambda}} \sqrt{\frac{\eta_1+\ldots+\eta_\lambda}{\lambda}}.$$

Второй сомножитель уходит в единицу по вероятности и ничему не мешает. Однако в первом знаменатель, во-первых, может в ноль обращаться (это не так страшно, поскольку он это делает со всё меньшей вероятностью, это лечится). Во-вторых, сам по себе первый сомножитель ничуть не лучше исходного. Даже, пожалуй, хуже: наоборот, доказывать его слабую сходимость к нормальному лучше через исходное выражение.

Задача действительно простая, в пару строчек. Только для этого стоит знать, как обычная ЦПТ доказывается через характеристические функции, ну и уметь нужно вычислять характеристическую функцию случайной суммы (см. сообщение Хорхе).

[_hum_]

nibble в сообщении #418386 писал(а):

Я с самого начала пытался расписать всё напрямую, как _hum_ . И дошел до того же места... Как действовать дальше непонятно. Непонятно, как оценить $\pi_n$ и модуль разности в правой части неравенства.

Для "оценки $\pi_n$" можно использовать неравенство Чебышева:

$$\mathbf{P}(|\tau - \lambda| < C ) \geq 1 - \frac{\lambda}{C^2},$$

из которого, если положить $C = \varepsilon\lambda$, вытекает, что

$$ \sum_{(1-\varepsilon)\lambda < n < (1+\varepsilon)\lambda} \pi_n\, \geq\, 1-\frac{1}{\varepsilon^2 \lambda}\,\quad\rightarrow 1,\, \lambda \rightarrow \infty$$

Поэтому в исходном ряде можно ограничиться суммированием только по области $D_{\lambda}^{\varepsilon}$, где отношение $r_{\lambda,n} = n/\lambda$ отлично от единицы не более чем на $\varepsilon$. Далее,
\begin{align*}F_{\frac{S_n}{\sqrt{\lambda}}}(u) = F_{\frac{S_n}{\sqrt{n}}}\Big( r_{\lambda,n}^{-\frac{1}{2}}\,\, u\Big) = \bigg [ F_{\frac{S_n}{\sqrt{n}}}\Big( r_{\lambda,n}^{-\frac{1}{2}}\,\, u\Big) - \Phi\Big( r_{\lambda,n}^{-\frac{1}{2}}\,\, u\Big)\bigg] + \bigg [\Phi\Big( r_{\lambda,n}^{-\frac{1}{2}}\,\, u\Big) - \Phi(u)\bigg] + \Phi(u).\end{align*}
При достаточно большом $\lambda $и малом $\varepsilon$ в области $D_{\lambda}^{\varepsilon}$ первая разность будет малой в силу ЦПТ (в формулировке с равномерной сходимостью), а вторая -- в силу непрерывности $\Phi$.

[Хорхе]

--mS-- в сообщении #418472 писал(а):

Видимо, Ваш преподаватель имеет в виду, что это позволит заменить $N_\lambda$ на сумму независимых и одинаково пуассоновски с параметром 1 распределенных слагаемых $\eta_1+\ldots+\eta_\lambda$. Это никак не упростит задачу...

Впрочем, упростит. Взять куски суммы, соответствующие этам, -- и вот классическая ЦПТ. А случай нецелого $\lambda$ довольно легко сводится к целому заменой $N_{\lambda}$ на близкую с целым параметром. Конечно, с характеристическими функциями метод универсальный, а этот весьма ad hoc (например, геометрическое распределение уже не получится), но он годится.

[--mS--]

Хорхе в сообщении #418595 писал(а):

Впрочем, упростит. Взять куски суммы, соответствующие этам, -- и вот классическая ЦПТ.

А-а-а, это я не заметила, да, действительно. Возня всё равно есть - надо будет пересчитывать матожидание (ну оно - ладно) и дисперсию новых слагаемых, распределённых как $S_{\eta_1}$, но зато хоть ЦПТ готовую можно использовать.

[nibble]

У _hum_ красивое доказательство, но меня смущает предельный переход в неравенстве Чебышева. Мне кажется, с ним может быть ошибка.
Я попробовал воспользоваться тем, что параметр является натуральным числом. Очень боюсь ошибиться, посмотрите, пожалуйста, верны ли мои рассуждения:

$S_{N_{\lambda}}=\sum\limits_{i=0}^{N_{\lambda}} X_i$

Из условия известно, что $\lambda$ - натуральное число. Воспользуемся фактом, что сумма независимых пуассоновских случайных величин также имеет распределение Пуассона с параметром, равным сумме параметров слагаемых. Следовательно, мы можем представить $N_{\lambda}$ в виде суммы независимых пуассоновских сл. величин:
$N_{\lambda}=\sum\limits_{i=0}^{\lambda} Y_i$, где $Y_i$ имеют распределение Пуассона с параметром $1$
Следовательно: $S_{N_{\lambda}}=\sum\limits_{i=0}^{Y_1+...+Y_{\lambda}} X_i=\sum\limits_{i=0}^{\lambda} {\sum\limits_{j=0}^{Y_i} X_{i,j}}$

Пусть $\eta_i=\sum\limits_{j=0}^{Y_i} X_{i,j}$. Сл. вел. $\eta_i$ представляет собой случайную сумму и мы можем найти её мат.ожидание и дисперсию по известным формулам (сразу подставим значения мат.ожидания и дисперсии слагаемых из условия задачи):
$E\eta_i=EY_iEX_j=1*0=0$
$D\eta_i=DY_iE^2X_j+EY_iDX_j=1*0+1*1=1$

По ЦПТ:
$P\left(\frac{\sum\limits_{i=0}^{\lambda} \eta_i - n E\eta_i}{D\eta_i \sqrt \lambda}<x\right) = F(x) \to N(0,1)$ при $\lambda \to \infty$

Так как $S_{N_{\lambda}}=\sum\limits_{i=0}^{\lambda} \eta_i$, подставив значения мат.ожидания и дисперсии $\eta_i$, получим:
$P\left(\frac{S_{N_{\lambda}}}{\sqrt \lambda}<x\right) = F(x) \to N(0,1)$ при $\lambda \to \infty$

[--mS--]

nibble в сообщении #421856 писал(а):

...Следовательно, мы можем представить $N_{\lambda}$ в виде суммы независимых пуассоновских сл. величин:

Никаким образом из устойчивости относительно суммирования не следует возможность случайную величину разбить в сумму независимых слагаемых. Например, вероятностное пространство может оказаться настолько бедным, что таких слагаемых там даже и не найдётся. Едиственное, что из устойчивости следует, - что можно построить на подходящем вероятностном пространстве такие слагаемые, что распределение данной суммы будет каким нужно.

nibble в сообщении #421856 писал(а):

По ЦПТ:
$P\left(\frac{\sum\limits_{i=0}^{\lambda} \eta_i - n E\eta_i}{D\eta_i \sqrt \lambda}<x\right) = F(x) \to N(0,1)$ при $\lambda \to \infty$

Дисперсия - под корнем. Вместо $n$ - $\lambda$. Остальное верно.

[nibble]

Спасибо! Наконец-то решилось :)
Добавлю в доказательство, что распределение Пуассона безгранично делимо и всё будет безупречно.

[--mS--]

nibble в сообщении #421906 писал(а):

Добавлю в доказательство, что распределение Пуассона безгранично делимо и всё будет безупречно.

Не будет. Повторяюсь: безграничная делимость никакого отношения к возможности представить случайную величину (функцию от $\omega$) в виде суммы не имеет. Безграничная делимость утверждает одинаковость распределений - исходной величины и сумм, а не совпадение величин как функций.

Например, пусть $\Omega=\{0,1,2\}$, $\mathcal F=2^\Omega$, $\mathsf P(0)=\mathsf P(1)=4/9$, $\mathsf P(2)=1/9$, $\xi(\omega)=\omega$ имеет биномиальное распределение $\textrm B(2,\,1/3)$.
Попробуйте представить $\xi$ в виде суммы двух независимых величин с распределением Бернулли $\textrm B(1,\,1/3)$.

nibble в сообщении #421906 писал(а):

Спасибо! Наконец-то решилось :)

Ну как бы Хорхе это решение уже 10 дён назад нарисовал

[yt,sdfksq]

[/quote]
Ну как бы Хорхе это решение уже 10 дён назад нарисовал [/quote]
Уважаемая --mS-- ! Классно, что не даёте спуска вопрошающим и обращаете внимание на тонкости, мимо коих студики легко проскакивают в предзачётной погоне (или в побеге?) за сразу полугодовой порцией знаний. Для «безупречности текста доказательства» nibble можно добавить «устойчиво и безгранично делимо», и тогда возразить будет труднее.
Но ошибка предложения Хорхе в другом. Применить ЦПТ не получится, т.к. среди n=L подсумм-слагаемых есть те, которые сами могут не содержать ни одного слагаемого.
Предложение _hum_ про «напрямую» можно «спасти», если вместо неравенства Чебышёва воспользоваться предельной нормальностью Пуассоновской случайной величины. Но возни много.
Видимо, единственный путь – Ваше, --mS-- , предложение применить характеристические функции. Доказательство в одну строчку, если взять известную готовую х.ф. для нормированной пуассоновской случайной суммы.

[--mS--]

yt,sdfksq в сообщении #422361 писал(а):

Для «безупречности текста доказательства» nibble можно добавить «устойчиво и безгранично делимо», и тогда возразить будет труднее.

См. пример выше.

yt,sdfksq в сообщении #422361 писал(а):

Но ошибка предложения Хорхе в другом. Применить ЦПТ не получится, т.к. среди n=L подсумм-слагаемых есть те, которые сами могут не содержать ни одного слагаемого.

Полагаете, слагаемым в ЦПТ запрещено равняться нулю?