неравноточные измерения

[AndreyL]

Друзья! Вот такой вопрос.
Измеряется значение некоторой характеристики, предполагается, что оно подчиняется нормальному распределению с центром $a$ и дисперсией $\sigma_0^2$. Значение измеряется несколько раз, при этом точность каждого измерения разная. Предполагается, что ошибка $i$-го измерения подчиняется нормальному распределению с центром 0 и дисперсией $\sigma_i^2$, при этом $\sigma_i^2$ известны для всех $i$ и сопоставимы по порядку значений с $\sigma_0^2$. Если я правильно понимаю, то любое $i$-е измерение будет подчинятся нормальному распределению с центром $a$ и дисперсией $\sigma_0^2+\sigma_i^2$.
Вопрос такой: как получить несмещенные эффективные точечные и интервальные оценки $a$ и $\sigma_0^2$?

[Александрович]

Максимально точная оценка центра будет равняться средневзвешенному значению всех измерений с весами $\frac{1}{\sigma^2_i}$.

[AndreyL]

Почему Вы считаете, что именно это будет максимально точная оценка? Хотелось бы обоснование чуть подробнее.
Если я правильно понимаю, то Ваш ответ относится к предельному случаю, когда $\sigma_i^2 \gg \sigma_0^2$. Тогда действительно, дисперсией самой выборки $\sigma_0^2$ можно пренебречь (и просто ее не оценивать за ненадобностью), а дисперсия среднего будет $1\Big/ \sum_{i=1}^n \sigma_i^{-2}$.
Другой предельный случай, когда $\sigma_i^2 \ll \sigma_0^2$. Тогда пренебрегаем точностью измерений (считаем измерения абсолютно точными), и переходим к классическим оценкам с одинаковыми (единичными) весами.
А как быть, когда ни одной дисперсией нельзя пренебречь, они примерно одного порядка?

-- Чт сен 19, 2013 12:39 pm --

Александрович в сообщении #765277 писал(а):

Максимально точная оценка центра будет равняться средневзвешенному значению всех измерений с весами $\frac{1}{\sigma^2_i}$.

И еще: а как в этом случае получить оценку дисперсии ${\sigma_0^2}$ самого значения характеристики?

[_hum_]

Не знаком с теорией неравноточных измерений, но, по-видимому, можно действовать по той же методике, что и в методе максимального правдоподобия: найти параметры, которые максимизируют вероятность получения заданной последовательности измерений. В вашем случае это параметры $(a^*, d_0^*)$, максимизирующие при заданном наборе измерений $X = (x_1,x_2,\dots, x_n)$ величину:

$$\prod_{i=1}^{n}p_{a, d_0 + d_i}(x_i) \,=:: l(a, d_0; X) , $$

или, что то же самое, ее логарифм:

$$\sum_{i=1}^{n}\ln p_{a, d_0 + d_i}(x_i)\, =:: L(a, d_0; X).$$

(Здесь $p_{a,d} = p_{a,d}(x)$ - плотность вероятности нормального распределения с математическим ожиданием $a$ и дисперсией $d$.)

Для этого придется решать систему наподобие (если ничего не напутал):

\begin{align*} \begin{cases} \dfrac{\partial L(a, d_0; X)}{\partial a} &=\, \sum_{i=1}^n\dfrac{x_i - a}{d_0 + d_i} \,= 0,\,\\[8pt] \dfrac{\partial L(a, d_0; X)}{\partial d_0} &=\, \sum_{i=1}^n \dfrac{- (d_0 + d_i) +(x_i - a)^2 }{2(d_0 + d_i)^2}\, = 0. \end{cases} \end{align*}

[AndreyL]

ошибочное сообщение - не подумал до конца

[_hum_]

AndreyL, вы неправильно решили систему - там же $d_i$ от $i$ зависит.

[AndreyL]

_hum_ в сообщении #765398 писал(а):

AndreyL, вы неправильно решили систему - там же $d_i$ от $i$ зависит.

Да, извиняюсь, уже убрал ту чушь.

-- Чт сен 19, 2013 3:49 pm --

_hum_ в сообщении #765389 писал(а):

Для этого придется решать систему наподобие (если ничего не напутал):

\begin{align*} \begin{cases} \dfrac{\partial L(a, d_0; X)}{\partial a} &=\, \sum_{i=1}^n\dfrac{x_i - a}{d_0 + d_i} \,= 0,\,\\[8pt] \dfrac{\partial L(a, d_0; X)}{\partial d_0} &=\, \sum_{i=1}^n \dfrac{- (d_0 + d_i) +(x_i - a)^2 }{2(d_0 + d_i)^2}\, = 0. \end{cases} \end{align*}

Не простая система. Она не всегда имеет разумное аналитическое решение. Попробовал погонять ее Монте-Карлой - в половине случаев нет вещественного положительного решения для $d_0$.

-- Чт сен 19, 2013 4:05 pm --

Попробовал численной оптимизацией функции правдоподобия с ограничением $d_0>0$ - больше чем в 40% случаев $d_0=0$

[_hum_]

AndreyL в сообщении #765402 писал(а):

Не простая система. Она не всегда имеет разумное аналитическое решение. Попробовал погонять ее Монте-Карлой - в половине случаев нет вещественного положительного решения для $d_0$.

AndreyL, вы бы перепроверили мои выкладки, ибо понятно же, что при больших $|a|$, $d$ значения, принимаемые функцией правдоподобия, убывают, а значит, где-то должны быть точки максимума. (Хотя, если вспомнить, что система дает точки экстремума, то в некоторых случаях, а именно, когда максимум достигается на границе, решений действительно может не быть).

AndreyL в сообщении #765402 писал(а):

Попробовал численной оптимизацией функции правдоподобия с ограничением $d_0>0$ - больше чем в 40% случаев $d_0=0$

Так а что вас смущает? Результат $d_0 = 0$ говорит, что данные у вас вероятнее всего получены в результате неточного измерения значений неслучайной величины, принимающей значение $a^*$ (или, по-другому, они неотличимы от полученных таким образом). Не устраивает ответ - вносите дополнительную информацию в модель (например, ограничение снизу на дисперсию $d_0$).

[AndreyL]

Ваши выкладки я первым делом перепроверил, тем более, что это не сложно - все правильно, только двоечку из знаменателя второго уравнения убрал за ненадобностью. От абсолютного значения $a$ ничего не зависит - это всего лишь сдвиг, тем более, что статистическое моделирование я провожу при теоретическом $a=0$. Другое дело отношения $d_0 / d_i$ - скорее в этом дело. С другой стороны при предельных отношениях решения известны и просты.
То, почему этим методом я получаю очень часто $d_0 = 0$ мне более-менее понятно, чуть позже даже попробую найти условие, при котором это происходит. Не понятно, как этого избежать - не существует критерия проверки равенства дисперсии нулю.

[_hum_]

AndreyL в сообщении #765532 писал(а):

От абсолютного значения $a$ ничего не зависит - это всего лишь сдвиг

Не понял, в каком контексте вы это говорите ($d$ ведь тоже всего лишь "коэффициент масштабирования").

AndreyL в сообщении #765532 писал(а):

тем более, что статистическое моделирование я провожу при теоретическом $a=0$.

и при каком-то теоретическом $d$...Опять же не вижу разницу между $a$ и $d$.

AndreyL в сообщении #765532 писал(а):

Не понятно, как этого избежать - не существует критерия проверки равенства дисперсии нулю.

Я так понимаю, речь идет о критерии, дающем точный ответ, ибо в противном случае никто вам не мешает организовать статистический критерий проверки этой гипотезы.

[AndreyL]

_hum_ в сообщении #765536 писал(а):

AndreyL в сообщении #765532 писал(а):

Не понятно, как этого избежать - не существует критерия проверки равенства дисперсии нулю.

Я так понимаю, речь идет о критерии, дающем точный ответ, ибо в противном случае никто вам не мешает организовать статистический критерий проверки этой гипотезы.

В том то и дело, что такого статистического критерия придумать невозможно - дисперсия или есть, или ее нет, если она есть, то точно не равна нулю.

[_hum_]

AndreyL в сообщении #765623 писал(а):

В том то и дело, что такого статистического критерия придумать невозможно - дисперсия или есть, или ее нет, если она есть, то точно не равна нулю.

Вы путаете. Нулевая дисперсия не то же само, что "ее нет". Потому ничто вам не мешает использовать критерии, в которых основная гипотеза предполагает значение дисперсии нуль.
Но это так, к слову. Не думаю, что для вашей задачи это нужно (обычно в прикладных случаях всегда есть какая-то дополнительная априорная информация, позволяющая достроить модель до нужной).

[AndreyL]

_hum_ в сообщении #765895 писал(а):

Вы путаете. Нулевая дисперсия не то же само, что "ее нет". Потому ничто вам не мешает использовать критерии, в которых основная гипотеза предполагает значение дисперсии нуль.

А можно посмотреть хотя бы какой нибудь пример критерия с нулевой гипотезой "дисперсия равна нулю"?

Но не в этом дело. Задача в том, чтобы избежать отрицательных оценок дисперсии. Критерия я, к сожалению, не нашел. Есть подозрение, что нужно сравнить полную дисперсию по выборке с дисперсией измерений, но как это корректно сделать?

[Александрович]

AndreyL в сообщении #765254 писал(а):

Измеряется значение некоторой характеристики, предполагается, что оно подчиняется нормальному распределению с центром $a$ и дисперсией $\sigma_0^2$. Значение измеряется несколько раз, при этом точность каждого измерения разная. Предполагается, что ошибка $i$-го измерения подчиняется нормальному распределению с центром 0 и дисперсией $\sigma_i^2$, при этом $\sigma_i^2$ известны для всех $i$ и сопоставимы по порядку значений с $\sigma_0^2$.
Вопрос такой: как получить несмещенные эффективные точечные и интервальные оценки $a$ и $\sigma_0^2$?

Александрович в сообщении #765277 писал(а):

Максимально точная оценка центра будет равняться средневзвешенному значению всех измерений с весами $\frac{1}{\sigma^2_i}$.

С такими же весами находится и оценка дисперсии.

[_hum_]

AndreyL в сообщении #767895 писал(а):

А можно посмотреть хотя бы какой нибудь пример критерия с нулевой гипотезой "дисперсия равна нулю"?

Нормальное распределение с матожиданием $m$ и нулевой дисперсией - это фактически вырожденное распределение $I_{\{m\}}$, сосредоточенное в точке $x = m$. Если $m$ известно, то тест с решающей функций, принимающей значение $0$, если все значения выборки равны $m$, и значение $1$ в противном случае, будет иметь 100%-ую мощность при таком же уровне значимости :)

AndreyL в сообщении #767895 писал(а):

Но не в этом дело. Задача в том, чтобы избежать отрицательных оценок дисперсии. Критерия я, к сожалению, не нашел. Есть подозрение, что нужно сравнить полную дисперсию по выборке с дисперсией измерений, но как это корректно сделать?

К сожалению, я не понимаю, что вы пишете. :(

Александрович, а можно ссылки или обоснования тому, что вы говорите?