errors-in-variables model

[vlad_light]

Имеется система:
$\begin{cases} y_i = \beta \xi _i^2 +\varepsilon _i\\ x_i = \xi _i +\delta _i\\ \end{cases}$
$\xi _i\sim N(\mu ,\sigma ^2), \varepsilon _i \sim N(0,\sigma _\varepsilon ^2), \delta\sim N(0,\sigma _\delta ^2)$ и все они независимы.
Предположим, нам известны все параметры ($\mu ,\sigma , \sigma _\varepsilon ,\sigma _\delta $), кроме $\beta $. Как в таком случае найти $m_i(x,\beta )=E(y_i |x_i)$?

-- Пт дек 07, 2012 16:53:18 --

Гляньте, пожалуйста.

$$E(y|x)=\left. E(\beta (x-\delta )^2 +\varepsilon |x)=E(\beta (\theta -\delta )^2 +\varepsilon )\right |_{\theta =x}=\left.\beta E(\theta ^2 -2\theta\delta +\delta ^2)\right |_{\theta =x}=\left.\beta \theta ^2\right |_{\theta =x} = \beta x^2$$

-- Пт дек 07, 2012 17:03:04 --

Но тогда получается, что

$$D(y|x)=E((y-E(y|x))^2|x)=E((\beta (x-\delta )^2+\varepsilon-\beta x^2)^2|x)=E((-2\beta \delta x+\delta ^2 +\varepsilon )^2|x)=0$$

а такого, скорее всего быть не может...

[--mS--]

vlad_light в сообщении #655545 писал(а):

$$E(y|x)=\left. E(\beta (x-\delta )^2 +\varepsilon |x)=E(\beta (\theta -\delta )^2 +\varepsilon )\right |_{\theta =x}=\left.\beta E(\theta ^2 -2\theta\delta +\delta ^2)\right |_{\theta =x}=\left.\beta \theta ^2\right |_{\theta =x} = \beta x^2$$

Ну тут-то понятно, что не так. Вы занулили $\mathsf E(\delta | \xi+\delta)$, а это совсем не нуль. Это, видимо, равно $\dfrac{\sigma_\delta^2(\xi+\delta - \mu)}{\sigma^2+\sigma_\delta^2}$ п.н. Тем более не нуль (вообще никогда) $\mathsf E(\delta^2 | \xi + \delta)$.

Есть подозрение, что исходное условное матожидание $\beta\mathsf E(\xi^2 | \xi+\delta)$ проще всего считать по определению. Искать плотность совместного распределения $(\xi^2, \, \xi+\eta)$, условную плотность, и затем её матожидание.

Если бы величины $\xi, \delta$ были бы нормальными, но одинаково распределёнными (скажем, со стандартным нормальным распределением), тогда УМО $\mathsf E (\xi^2|\xi+\delta)=\dfrac{1}{2}+\dfrac{(\xi+\delta)^2}{4}$ п.н. считалось бы без хлопот из независимости суммы и разности:

$$\mathsf E((\xi+\delta)^2|\xi+\delta) = (\xi+\delta)^2,$$

$$\mathsf E((\xi-\delta)^2|\xi+\delta) = \mathsf E (\xi-\delta)^2=2,$$

складываем, смешанные члены сокращаются, и получаем учетверённое $\mathsf E (\xi^2|\xi+\eta)$. Однако в случае разных дисперсий подобные приёмы не проходят.

[vlad_light]

$E(y|x)=E(\beta \xi ^2+\varepsilon |\xi + \delta)=\beta E(\xi ^2|\xi +\delta )=?$ как это через интеграл записать?

Цитата:

Искать плотность совместного распределения $(\xi^2, \, \xi+\delta)$

$$F_{\xi ^2|\xi +\delta}(x,y)=P(\xi ^2<x,\xi +\delta <y)=P(\xi <\sqrt x, \delta <y-\xi )=\int\limits _{-\infty}^{\sqrt x}f_\xi (x')(\int\limits _{-\infty}^{y-x'}f_\delta (y')dy')dx'=$$

$$=\frac {1}{2\pi \sigma\sigma _\delta}\int\limits _{-\infty}^{\sqrt x}e^{-\frac{(x'-\mu )^2}{2\sigma ^2}}(\int\limits _{-\infty}^{y-x'}e^{\frac{{y'}^2}{2\sigma _\delta ^2}}dy')dx'$$

Тогда получается, что

$$\beta E(\xi ^2|\xi +\delta )=\left.\frac {\beta}{2\pi \sigma\sigma _\delta}\int\limits _{\mathbb R}xd(\int\limits _{-\infty}^{\sqrt x}e^{-\frac{(x'-\mu )^2}{2\sigma ^2}}(\int\limits _{-\infty}^{y_0-x'}e^{\frac{{y'}^2}{2\sigma _\delta ^2}}dy')dx')\right |_{y_0=\delta}$$

или я что-то напутал? Помогите, пожалуйста.

-- Сб дек 08, 2012 14:06:10 --

И ещё мне нужно, чтоб $E(\xi ^2|\xi +\delta)=m(x)$, а не $m(\delta )$. Как можно перейти от одного к другому?

[--mS--]

Во-первых, то, что Вы вычисляете, есть не условная, а совместная функция распределения пары. Во-вторых, вероятности: событие $\xi^2<x$ равносильно не $\xi<\sqrt{x}$, а $-\sqrt{x}<\xi<\sqrt{x}$. Поменяйте пределы в первом интеграле.

Потом, зачем Вы засунули функцию распределения под матожидание? Матожидание есть интеграл от переменной, умноженной на плотность, а не на ф.р.

1) Вы должны найти совместную плотность $f_{\xi^2,\, \xi+\delta}(x,y)$ - это смешанная производная по $x,y$ от совместной функции распределения. Если не хочется брать производную двойного интеграла, разумный пусть - привести его заменами переменных к виду

$$F_{\xi^2,\,\xi+\delta}(x,y) = \int\limits_0^x \left(\int\limits_{-\infty}^y f(s,\,t) dt \right) ds.$$

В таком случае под интегралом и окажется совместная плотность.

2) Затем по ней - условную плотность $f_{\xi^2|\xi+\delta}(x|y) = \dfrac{f_{\xi^2,\, \xi+\delta}(x,y)}{f_{\xi+\delta}(y)}$.

3) Затем $\mathsf E(\xi^2\,|\,\xi+\delta = y) = \int\limits_0^{+\infty} x\cdot f_{\xi^2|\xi+\delta}(x|y) \, dx = g(y)$. Ответом будет $\mathsf E(\xi^2\, | \,\xi+\delta)=g(\xi+\delta)$ п.н.

[vlad_light]

О, спасибо большое!!! Сейчас напишу, что я пока сделал.

(Оффтоп)

Цитата:

зачем Вы засунули функцию распределения под матожидание

В качестве небольшого оправдания, скажу, что я считал его по формуле $E\xi =\int\limits _{\mathbb R}xdF_\xi (x)$

Для начала я перепишу систему из первого сообщения в виде

$$\begin{cases} Y = \beta \xi ^2 +\varepsilon \\ X = \xi +\delta \\ \end{cases}$$

для более удобной записи. Далее я проделываю следующие вычисления (возможно, я расписываю слишком простые вещи -- уж просите, я только учусь ):

$$F_{\xi ,\delta}=P(\xi <x,\delta <y)=P(\xi <x)P(\delta <y)=F_\xi (x)F_\delta (y)$$

$$f_{\xi ,\delta}(x,y)=\frac{\partial ^2}{\partial x\partial y}F_{\xi ,\delta}=\frac{\partial}{\partial x}F_\xi (x)\frac{\partial}{\partial y}F_\delta (y)=f_\xi (x)f_\delta (y)$$

$$F_X(z)=P(\delta <z-\xi )=\int\limits _{-\infty}^{+\infty}\int\limits _{-\infty}^{z-x}f_{\xi ,\delta}(x,y)dxdy=\int\limits _{-\infty}^{+\infty}f_\xi (x)(\int\limits _{-\infty}^{z-x}f_\delta (y)dy)dx=\int\limits _{-\infty}^{+\infty}f_\xi (x)F_\delta (z-x)dx$$

$$f_X(z)=\frac{\partial}{\partial z}\int\limits _{-\infty}^{+\infty}f_\xi (x)F_\delta (z-x)dx=\int\limits _{-\infty}^{+\infty}f_\xi (x)f_\delta (z-x)dx$$

$$F_{(X-\delta )^2,X}(y,x)=P((X-\delta )^2<y,X<x)=P(X-\sqrt y<\delta <X+\sqrt y,X<x)=$$

$$=\int\limits _{-\infty}^xf_X(x')(\int\limits _{x'-\sqrt y}^{x'+\sqrt y}f_\delta (y')dy')dx'=\int\limits _{-\infty}^xf_X(x')(F_\delta (x'+\sqrt y)-F_\delta (x'-\sqrt y))dx'$$

$$f_{(X-\delta )^2,X}(y,x)=\frac{\partial ^2}{\partial x\partial y}\int\limits _{-\infty}^xf_X(x')(F_\delta (x'+\sqrt y)-F_\delta (x'-\sqrt y))dx'=$$

$$=\frac{\partial}{\partial x}\int\limits _{-\infty}^x\frac{f_X(x')}{2\sqrt y}(f_\delta (x'+\sqrt y)+f_\delta (x'-\sqrt y))dx'$$

$$f_{(X-\delta )^2|X}(y|x)=\frac{f_{(X-\delta )^2,X}(y,x)}{f_X(x)}=\frac{\frac{\partial}{\partial x}\int\limits _{-\infty}^x\frac{f_X(x')}{2\sqrt y}(f_\delta (x'+\sqrt y)+f_\delta (x'-\sqrt y))dx'}{\int\limits _{-\infty}^{+\infty}f_\xi (y')f_\delta (x-y')dy'}$$

$$E((X-\delta)^2|X)=\left.\int\limits _{-\infty}^{+\infty}y\frac{\frac{\partial}{\partial x}\int\limits _{-\infty}^x\frac{f_X(x')}{2\sqrt y}(f_\delta (x'+\sqrt y)+f_\delta (x'-\sqrt y))dx'}{\int\limits _{-\infty}^{+\infty}f_\xi (y')f_\delta (x-y')dy'}dy\right |_{x=X}=g(X)$$

Теперь вопрос следующий: что там можно посокращать? Дальше мне нужно найти вторй момент, сейчас этим займусь, напишу здесь своё решение.

-- Пн дек 10, 2012 00:58:35 --

$$D(Y|X)=E((Y-E(Y|X))^2|X)=E(Y^2-2YE(Y|X)+(E(Y|X))^2|X)=E(Y^2|X)-(E(Y|X))^2$$

$$E(Y^2|X)=E((\beta (X-\delta )^2+\varepsilon)^2|X)=\beta ^2E((X-\delta )^4|X)+2\beta E((X-\delta )^2\varepsilon |X)+E(\varepsilon ^2|X)=$$

$$=\beta ^2E((X-\delta )^4|X)+2\beta E((X-\delta )^2|X)E(\varepsilon |X)+E\varepsilon ^2=\beta ^2E((X-\delta )^4|X)$$

Далее, по аналогии с предыдущим:

$$E((X-\delta)^4|X)=\left.\int\limits _{-\infty}^{+\infty}y\frac{\frac{\partial}{\partial x}\int\limits _{-\infty}^x\frac{f_X(x')}{4y^{\frac 34}}(f_\delta (x'+y^{\frac 14})+f_\delta (x'-y^{\frac 14}))dx'}{\int\limits _{-\infty}^{+\infty}f_\xi (y')f_\delta (x-y')dy'}dy\right |_{x=X}=h(X)$$

Получается, что

$$E(Y|X)=\beta g(X)=m(X,\beta )$$

$$D(Y|X)=\beta ^2h(X)=v(X,\beta )$$

Проверьте, пожалуйста, а я сейчас напишу, что я буду делать дальше.

[vlad_light]

Значит, дальше мне нужно решить такое уравнение:

$$\sum\limits _{i=1}^n\frac{Y_i-m(X_i,\theta )}{v(X_i,\theta )}\frac{dm}{d\theta}(X_i,\theta )=0$$

и показать, что $\theta \xrightarrow{P1}\beta ,n\to\infty$
Поправочка: в предыдущем

$$D(Y|X)=\beta ^2h(X)-(\beta g(X))^2=\beta ^2(h(X)-g^2(X))=v(X,\beta )$$

[--mS--]

Много буков, поэтому буду комментировать по ходу, а то к концу забуду.

(Оффтоп)

Да, дифференциал я не разглядела под матожиданием, прошу прощения

Самое главное, что Вы делаете не так: Вы переходите от независимых с.в. $\xi$ и $\delta$ к зависимым $X$ и $\delta$, а вероятности для этой пары вычисляете по произведению их плотностей, как для независимых! Работайте в терминах исходных независимых величин!
Т.е. первый же интеграл при вычислении $F_{(X-\delta)^2, X}(y,x)$ уже неверен.

Комментарии к выкладкам:
1) Зачем понадобилась совместная плотность $\xi$ и $\delta$? Они по условию независимы, вычислять её не нужно, да и не представляю, куда Вы её использовать хотите.
2) Зачем понадобились формулы свёртки? Распределение суммы двух независимых нормальных величин нормально, параметры складываются как матожидания и дисперсии, это Вам должно быть известно изначально. Не имеет смысла при решении задачи выводить весь тервер с нуля. Тем более, что и эта плотность Вам не понадобится.
3) $\dfrac{\partial}{\partial x} \int\limits_{-\infty}^x f(x')\, dx' = f(x)$. Незачем таскать производную.
4) Почему $y$ у Вас всюду по всей прямой меняется? Он, вроде, положителен.
5) Второй момент искать - уже надо подставлять данные плотности. Только не все. Интегрировать Вам нужно будет (после того, как правильно условную плотность найдёте) по $y$, вот и нужно выловить, что за условная плотность, как функция переменной $y$, получилась. Остальные константы (в том числе всё, что содержит $x$) будет лишь нормирующим множителем при этой плотности по переменной игрек.

6) Кстати, чёрт, дьявол! Зря я заставила Вас вычислять условную плотность $f_{\xi^2 | \xi+\delta}(y|x)$, вполне хватило бы и просто условной плотности $f_{\xi | \xi+\delta}(y|x)$, от которой все моменты равны нужным УМО:

$$\mathsf E(\xi^2 | \xi+\delta) = g(\xi+\delta), \,\,\, g(x)=\int\limits_{\mathbb R} y\cdot f_{\xi^2 | \xi+\delta}(y|x) \,dy=\int\limits_{\mathbb R} y^2\cdot f_{\xi | \xi+\delta}(y|x) \,dy. $$

$$\mathsf E(\xi^4 | \xi+\delta) = v(\xi+\delta), \,\,\, v(x)=\int\limits_{\mathbb R} y\cdot f_{\xi^4 | \xi+\delta}(y|x) \,dy=\int\limits_{\mathbb R} y^4\cdot f_{\xi | \xi+\delta}(y|x) \,dy. $$

Может, пересчитать, пока не поздно :) Впрочем, она и так уже вылазит под интегралом после замены.

Давайте я посчитаю маленько:

$$F_{\xi, \xi+\delta}(y,x) = \mathsf P(\xi < y,\, \delta < x - \xi) = \int\limits_{-\infty}^y f_\xi(y') F_\delta(x-y')\, dy', $$

Дифференцируем

$$f_{\xi, \xi+\delta}(y,x) = f_\xi(y) f_\delta(x-y) = c\cdot e^{-(y-\mu)^2/(2\sigma^2)}\cdot e^{-(x-y)^2/(2\sigma_\delta^2)} = c(x) \cdot e^{-(y-a)^2/2s^2}.$$

Константы $a$ и $s^2$ найдём, выделив в показателе экспоненты полный квадрат по $y$. Условная плотность будет отличаться от совместной только множителем $\dfrac{1}{f_{\xi+\delta}(x)}$, который сделает эту функцию плотностью некоторого распределения - очевидно, нормального. Вот и найдём параметры этого распределения. В показателе экспоненты выделим полный квадрат по $y$:

$$\dfrac{(y-\mu)^2}{\sigma^2} + \dfrac{(x-y)^2}{\sigma_\delta^2} = \dfrac{\sigma_\delta^2 y^2+2\sigma_\delta^2\mu y + y^2\sigma^2-2yx \sigma^2}{\sigma^2\sigma_\delta^2} + \textrm{const} = \dfrac{\sigma_\delta^2+\sigma^2}{\sigma^2\sigma_\delta^2}\left(y^2 - 2y\dfrac{x\sigma^2-\mu\sigma_\delta^2}{\sigma_\delta^2 + \sigma^2}\right) + \textrm{const}= $$

$$=\dfrac{(y-a)^2}{s^2}+\textrm{const}.$$

Отсюда выделяются $a=a(x)$ и $s^2$, и все условные матожидания находятся по этой условной плотности, которая будет плотностью некоторого нормального распределения - с параметрами $a$ и $s^2$.

[vlad_light]

Сейчас попробую...

$$\frac{(y-\mu )^2}{\sigma ^2}+\frac{(x-y)^2}{\sigma _\delta^2}=\frac{y^2\sigma _\delta ^2 -2\mu y\sigma _\delta ^2+\mu ^2\sigma _\delta ^2+x^2\sigma ^2-2xy\sigma ^2+y^2\sigma ^2}{\sigma ^2\sigma _\delta ^2}=$$

$$=\frac{y^2(\sigma _\delta ^2+\sigma ^2)-2y(\mu \sigma _\delta ^2+x\sigma ^2)+\mu ^2\sigma _\delta ^2+x^2\sigma ^2}{\sigma ^2\sigma _\delta ^2}=\frac{\sigma _\delta ^2+\sigma ^2}{\sigma ^2\sigma _\delta ^2}(y^2-2y\frac{\mu \sigma _\delta ^2+x\sigma ^2}{\sigma _\delta ^2+\sigma ^2}+(\frac{\mu \sigma _\delta ^2+x\sigma ^2}{\sigma _\delta ^2+\sigma ^2})^2)-$$

$$-\frac{\sigma _\delta ^2+\sigma ^2}{\sigma ^2\sigma _\delta ^2}(\frac{\mu \sigma _\delta ^2+x\sigma ^2}{\sigma _\delta ^2+\sigma ^2})^2+\frac{\mu ^2\sigma _\delta ^2+x^2\sigma ^2}{\sigma _\delta ^2\sigma ^2}$$

Дальше преобразую только 2 последних слагаемых:

$$\frac{(\mu ^2\sigma _\delta ^2+x^2\sigma ^2)(\sigma _\delta ^2+\sigma ^2)-(\mu \sigma _\delta ^2+x\sigma ^2)^2}{\sigma ^2\sigma _\delta ^2(\sigma _\delta ^2+\sigma ^2)}=\frac{\sigma ^2\sigma _\delta ^2 (x^2+\mu ^2-2x\mu)}{\sigma ^2\sigma _\delta ^2(\sigma _\delta ^2+\sigma ^2)}=\frac{(x-\mu )^2}{\sigma _\delta ^2+\sigma ^2}$$

Собираем всё в кучу и получаем:

$$\frac{(y-\frac{\mu \sigma _\delta ^2+x\sigma ^2}{\sigma _\delta ^2+\sigma ^2})^2}{\frac{\sigma _\delta ^2\sigma ^2}{\sigma _\delta ^2+\sigma ^2}}+\frac{(x-\mu )^2}{\sigma _\delta ^2+\sigma ^2}$$

Соответственно, плотность равна:

$$f_{\xi ,\xi +\delta}(y,x)=\frac{\exp {(-\frac 12\frac{(x-\mu )^2}{\sigma _\delta ^2+\sigma ^2})}}{\sqrt {2\pi} \sigma\sigma _\delta}\sqrt {\frac{\sigma _\delta ^2\sigma ^2}{\sigma _\delta ^2+\sigma ^2}}f_\eta (y,x),\eta\sim N(\frac{\mu \sigma _\delta ^2+x\sigma ^2}{\sigma _\delta ^2+\sigma ^2},\frac{\sigma _\delta ^2\sigma ^2}{\sigma _\delta ^2+\sigma ^2})$$

Теперь вычислим моменты:

$$E(\xi ^2|\xi +\delta )=\int\limits _{-\infty}^{+\infty}y^2\frac{f_{\xi ,\xi +\delta}(y,x)}{f_{\xi +\delta}(x)}dy=\frac{\exp {(-\frac 12\frac{(x-\mu )^2}{\sigma _\delta ^2+\sigma ^2})}}{\sqrt {2\pi} \sigma\sigma _\delta}\sqrt {\frac{\sigma _\delta ^2\sigma ^2}{\sigma _\delta ^2+\sigma ^2}}\frac{E\eta ^2}{f_{\xi +\delta}(x)}$$

$$E(\xi ^4|\xi +\delta )=\int\limits _{-\infty}^{+\infty}y^4\frac{f_{\xi ,\xi +\delta}(y,x)}{f_{\xi +\delta}(x)}dy=\frac{\exp {(-\frac 12\frac{(x-\mu )^2}{\sigma _\delta ^2+\sigma ^2})}}{\sqrt {2\pi} \sigma\sigma _\delta}\sqrt {\frac{\sigma _\delta ^2\sigma ^2}{\sigma _\delta ^2+\sigma ^2}}\frac{E\eta ^4}{f_{\xi +\delta}(x)}$$

$$E\eta ^2=(\frac{\mu \sigma _\delta ^2+x\sigma ^2}{\sigma _\delta ^2+\sigma ^2})^2+\frac{\sigma _\delta ^2\sigma ^2}{\sigma _\delta ^2+\sigma ^2}$$

$$E\eta ^4=(\frac{\mu \sigma _\delta ^2+x\sigma ^2}{\sigma _\delta ^2+\sigma ^2})^4+6(\frac{\mu \sigma _\delta ^2+x\sigma ^2}{\sigma _\delta ^2+\sigma ^2})^2\frac{\sigma _\delta ^2\sigma ^2}{\sigma _\delta ^2+\sigma ^2}+3(\frac{\sigma _\delta ^2\sigma ^2}{\sigma _\delta ^2+\sigma ^2})^2$$

Гляньте, пожалуйста И ещё вопрос: $x$ - это случайная величина, которую я обозначал $X$?

[--mS--]

Хорошо, что исправили мои опечатки - что-то у меня второй раз смешанное произведение то с плюсом, то с минусом вылазит.

А всё остальное - неверно. Ещё раз: условная плотность - по $y$ - есть плотность некоторой с.в. Она у Вас нормальная. Всё. Никаких функций от иксов, кроме нормирующего множителя, при этой плотности вылезти не может, или она не плотность. Прочтите снова последние абзацы предыдущего сообщения.

Вот ровно две последних строчки у Вас - второй и четвёртый моменты $\eta$ - и есть искомые ответы.

Да, вместо $x$ нужно в ответы подставить $X=\xi+\delta$.

[vlad_light]

Цитата:

Условная плотность будет отличаться от совместной только множителем $\dfrac{1}{f_{\xi+\delta}(x)}$

Я понял эту фразу, как $f_{\xi |\xi +\delta}(y|x)=f_{\xi ,\xi +\delta}(y,x)\dfrac{1}{f_{\xi+\delta}(x)}$. Эта формула правильная? Или я неправильно нашёл совместную плотность? Я продолжил Ваше решение:

$$f_{\xi ,\xi +\delta}(y,x)=...=c(x)\exp (-\frac{(y-a)^2}{2s^2})$$

где я нашёл

$$c(x)=\frac{\exp {(-\frac 12\frac{(x-\mu )^2}{\sigma _\delta ^2+\sigma ^2})}}{2\pi \sigma\sigma _\delta}$$

$$a=a(x)=\frac{\mu \sigma _\delta ^2+x\sigma ^2}{\sigma _\delta ^2+\sigma ^2}$$

$$s^2=\frac{\sigma _\delta ^2\sigma ^2}{\sigma _\delta ^2+\sigma ^2}$$

Далее я сделал такую вещь:

$$c(x)\exp (-\frac{(y-a)^2}{2s^2})=c(x)\sqrt {2\pi}s(\frac{1}{\sqrt {2\pi}s}\exp (-\frac{(y-a)^2}{2s^2}))=c(x)\sqrt {2\pi}sf_\eta (y,x)$$

где

$$\eta\sim N(a(x),s^2)$$

Или Вы про то, что нужно писать $f_\eta (y)$, вместо $f_\eta (y,x)$? М. о. я считал по Вашей формуле:

$$E(\xi ^2|\xi +\delta )=\int\limits _{-\infty}^{+\infty}y^2f_{\xi |\xi +\delta}(y|x)dy$$

где

$$f_{\xi |\xi +\delta}(y|x)=\frac{c(x)\sqrt {2\pi}sf_\eta (y,x)}{f_{\xi +\delta}(x)}$$

А Вы утверждаете, что

Цитата:

Вот ровно две последних строчки у Вас - второй и четвёртый моменты $\eta$ - и есть искомые ответы.

Т. е.

$$E(\xi ^2|\xi +\delta )=\int\limits _{-\infty}^{+\infty}y^2f_\eta (y,x)dy$$

Я не понимаю, почему так... Ткните, пожалуйста, где у меня ошибка?

[--mS--]

Вся условная плотность должна быть плотностью. Это функция переменной $y$. Что за плотность получается? Не надо искать никаких $c(x)$ и никаких $c(x)/f_{\xi+\delta}(x)$ - последнее выражение есть просто $\dfrac{1}{\sqrt{2\pi s}}$.

Или уже подставьте тогда в свою формулу плотности $f_{\xi+\delta}(x)$ и вычислите полностью.

[vlad_light]

Аааа... так у меня всё правильно было, просто та константа ($c(x)$) сокращается с плотностью $f_\xi ,\xi +\delta (x)$ и превращается в еденицу.
Теперь вернёмся к нашим баранам

$$E(Y|X)=\beta ((\frac{\mu \sigma _\delta ^2+X\sigma ^2}{\sigma _\delta ^2+\sigma ^2})^2+\frac{\sigma _\delta ^2\sigma ^2}{\sigma _\delta ^2+\sigma ^2})=m(X,\beta )$$

$$D(Y|X)=\beta ^2((\frac{\mu \sigma _\delta ^2+X\sigma ^2}{\sigma _\delta ^2+\sigma ^2})^4+6(\frac{\mu \sigma _\delta ^2+X\sigma ^2}{\sigma _\delta ^2+\sigma ^2})^2\frac{\sigma _\delta ^2\sigma ^2}{\sigma _\delta ^2+\sigma ^2}+3(\frac{\sigma _\delta ^2\sigma ^2}{\sigma _\delta ^2+\sigma ^2})^2-$$

$$-((\frac{\mu \sigma _\delta ^2+X\sigma ^2}{\sigma _\delta ^2+\sigma ^2})^2+\frac{\sigma _\delta ^2\sigma ^2}{\sigma _\delta ^2+\sigma ^2})^2+\sigma _\varepsilon ^2)=$$

$$=\beta ^2(4(\frac{\mu \sigma _\delta ^2+X\sigma ^2}{\sigma _\delta ^2+\sigma ^2})^2\frac{\sigma _\delta ^2\sigma ^2}{\sigma _\delta ^2+\sigma ^2}+2(\frac{\sigma _\delta ^2\sigma ^2}{\sigma _\delta ^2+\sigma ^2})^2+\sigma _\varepsilon ^2)=v(X,\beta )$$

Правильно?

[--mS--]

Ну, четвёртый момент мне проверять лень, на первый взгляд всё правильно.

[vlad_light]

Цитата:

Ну, четвёртый момент мне проверять лень

Я его сам не считал, а взял из википедии
Тогда будем двигаться дальше. Теперь мне нужно решить такое уравнение

$$\sum\limits _{i=1}^n\frac{Y_i-m(X_i,\hat\beta )}{v(X_i,\hat\beta )}\frac{dm}{d\hat\beta}(X_i,\hat\beta )=0$$

Выборка $\{X_i,Y_i\}_{i=1}^n$ мне дана изначально, параметры $\mu$ и $\sigma ^2$ я нахожу, например, так

$$\mu =\frac 1n\sum\limits _{i=1}^nX_i$$

$$\sigma ^2=\frac{1}{n-1}\sum\limits _{i=1}^n(X_i-\mu )^2-\sigma _\delta ^2$$

Теперь мне нужно показать, с какой "скоростью" $\hat\beta$ сходится к $\beta$. Тут сразу два вопроса: как определить "скорость" и как её найти?

(Оффтоп)

Забегая наперёд, скажу, что я буду исследовать также другой способ оценивания параметров $\mu$ и $\sigma ^2$ и мне нужно будет сравнить скорости сходимости данных методов оценивания.

[--mS--]

Начинает складываться ощущение, что я должна буду написать Вам кандидатскую, нет?

Почитайте статьи по теме исследования, выясните, как понимать скорость сходимости оценки к параметру - может быть, в терминах коэффициента асимптотической нормальности, или в терминах среднеквадратичных отклонений, да мало ли. Появятся конкретные вопросы - велком.