производная по вектору

[vlad_light]

Имеем

$$\begin{cases}Y=\beta \xi ^2 +\varepsilon\\X=\xi +\delta\end{cases}$$

$\xi \sim N(\mu ,\sigma ^2), \varepsilon\sim (0,\sigma _\varepsilon ^2), \delta\sim N(0,\sigma _\delta ^2); (\xi ,\varepsilon ,\delta )$ - независимы.
Пусть $\theta = (\mu ,\sigma ^2, \beta )$. Нужно найти:$\frac{\partial \ln f_X}{\partial \theta}$, где $f_X(x)=\frac{1}{\sqrt {2\pi (\sigma ^2+\sigma _\delta ^2)}}\exp{\frac 12\frac{(x-\mu )^2}{\sigma ^2+\sigma _\delta ^2}}$ - плотность $X$. Подскажите, правильно ли я считаю:

$$\frac{\partial \ln f_X}{\partial \theta}=\frac{1}{f_X}\frac{\partial f_X}{\partial \theta}=\frac{1}{f_X}(\nabla f_X,\frac{\theta}{|\theta |})=\frac{1}{f_X|\theta |}(\mu\frac{\partial f_X}{\partial \mu}+\sigma ^2\frac{\partial f_X}{\partial \sigma ^2}+\beta\frac{\partial f_X}{\partial \beta})$$

[--mS--]

А зачем это искать?

[vlad_light]

Может помните ту модель. Там есть два вида оценивания $\mu, \sigma ^2, \beta$. В первом случае я оцениваю так:

$$\mu = \hat\mu ,\sigma ^2 = \hat\sigma ^2, \sum\limits _{i=1}^N\frac{Y_i-m(X_i,\hat\beta)}{v(X_i,\hat\beta)}\frac{\partial m}{\partial \beta}(X_i,\hat\beta)=0$$

где $m(X,\beta )=E(Y|X),v(X,\beta )=D(Y|X)$. Этот метод называется LS.
А теперь мне нужно применить метод QS:

$$\sum\limits _{i=1}^N\frac{Y_i-m(X_i,\theta )}{v(X_i,\theta )}\frac{\partial m}{\partial \theta}(X_i,\theta )+\frac{\partial \ln f_X}{\partial \theta}(X_i,\theta )=0$$

И сравнить два этих метода.

(Оффтоп)

Всё взял из статьи: http://www.mechmat.univ.kiev.ua/eng/ppa ... jspi_3.pdf Гляньте опытным глазом, пожалуйста.

[--mS--]

А теперь посмотрите на текст после формулы (5). Если $l=l(\theta)$ - функция нескольких переменных, то что такое $l_\theta$ ввиду записей типа $l_\theta\,\l_\theta^T$? Транспонировать обычно приходится вектор.

Не говоря уже о том, что дальше, в (6), явным образом описан вектор.

[vlad_light]

Так правильно?

$$\frac{\partial m}{\partial \theta}(x,\theta )=(\frac{\partial m}{\partial \mu}(x,\theta ),\frac{\partial m}{\partial \sigma ^2}(x,\theta ),\frac{\partial m}{\partial \beta}(x,\theta ))$$

$$\frac{\partial \ln f_X}{\partial \theta}(x,\theta )=\frac{1}{f_X(x,\theta)}\frac{\partial f_X}{\partial \theta}(x,\theta )=\frac{1}{f_X(x,\theta)}(\frac{\partial f_X}{\partial \mu}(x,\theta ),\frac{\partial f_X}{\partial \sigma ^2}(x,\theta ),\frac{\partial f_X}{\partial \beta}(x,\theta ))$$

[--mS--]

Разумеется.