неравноточные измерения

[_hum_]

--mS-- в сообщении #768779 писал(а):

Есть теорема у Лемана в "Теории точечного оценивания" (теорема 1.1 главы 2), с помощью которой (видимо) там же предлагается (см. окончание примера 2.3) доказать несуществование таковой оценки для двух наблюдений.

Трудно его читать, если честно. Вот нашел похожий, но задействующий еще понятие достаточной статистики результат:

land9.pdf писал(а):

Theorem 9.2.1. Let $U$ be the set of all unbiased estimators of $0$ with finite variances and $T$ be an unbiased estimator of $\theta$ with $E(T^2) < \infty$.

(i) A necessary and sufficient condition for $T(X)$ to be a UMVUE of $\theta$ is that $E[T(X)U(X)] = 0$ for any $U \in \mathcal{U}$ and any $P \in \mathcal{P}$.

(ii) Suppose that $T = h( \tilde T)$, where $\tilde T$ is a sufficient statistic for $P \in \mathcal{P}$ and $h$ is a Borel function. Let $\mathcal{U}_{\tilde T}$ be the subset of $\mathcal{U}$ consisting of Borel functions of $\tilde T$. Then a necessary and sufficient condition for $T$ to be a UMVUE of $\theta$ is that $E[T(X)U(X)] = 0$ for any $U \in \mathcal{U}_{\tilde T}$ and any $P \in \mathcal{P}$.

Хотя, в нашем случае, (i) и (ii) практически совпадают...

Вообще, я все же пока склоняюсь к тому, что "несжимаемость" данных выборки (случай минимальной достаточной статистики с размерностью выборки) никак не повод ожидать отсутствия существования эффективной оценки.

[Александрович]

--mS-- в сообщении #768779 писал(а):

$$\sigma^2_{\widetilde{x}} = w_1(\sigma_0^2 + \sigma_1^2) + w_2(\sigma_0^2 +\sigma_2^2)+…+ w_n (\sigma_0^2 + \sigma_n^2)$$

И даже это ещё неправильное, за этим товарищем глаз да глаз. Он выше ещё квадраты потерял при переписывании. Правильное

$$\sigma^2_{\widetilde{x}} = w_1^2(\sigma_0^2 + \sigma_1^2) + w_2^2(\sigma_0^2 +\sigma_2^2)+…+ w_n^2 (\sigma_0^2 + \sigma_n^2)$$

Подумайте хорошо и исправтесь.

[--mS--]

Александрович в сообщении #768899 писал(а):

Подумайте хорошо и исправтесь.

Может, достаточно людей-то смешить? Вы бы хоть на свои переписанные у кого-то верно производные по $w_i$ посматривали, от Ваших линейных-то функций.

-- Вс сен 29, 2013 13:34:29 --

_hum_ в сообщении #768889 писал(а):

Вообще, я все же пока склоняюсь к тому, что "несжимаемость" данных выборки (случай минимальной достаточной статистики с размерностью выборки) никак не повод ожидать отсутствия существования эффективной оценки.

Ну, собственно, эта лемма практически и есть теорема 1.1, просто у меня русское бумажное издание на полке. Спорить не буду, поскольку по этому поводу знаю крайне мало. Вот, например, я ровно ничего не знаю о существовании эффективной оценки для параметра сдвига распределения Коши (например, при объёмах выборки больше трёх или сколько там надо, чтоб у выборочной медианы было матожидание). Есть что-то лучшее выборочной медианы или эффективной оценки вообще не бывает? Если кто-то знает, где есть информация об этом, буду признательна.

[Александрович]

--mS-- в сообщении #768922 писал(а):

Может, достаточно людей-то смешить?

Да, достаточно. У Вас какое-то перманентное непонимание средневзвешенного значения.

--mS-- в сообщении #768363 писал(а):

Вот это:
$a^*=\dfrac{1}{n}\sum\dfrac{X_i}{\sigma_i^2}\,?$

Так не находят средневзвешенное значение.

--mS-- в сообщении #768779 писал(а):

Правильное
$\sigma^2_{\widetilde{x}} = w_1^2(\sigma_0^2 + \sigma_1^2) + w_2^2(\sigma_0^2 +\sigma_2^2)+…+ w_n^2 (\sigma_0^2 + \sigma_n^2)$

Это не может быть правильным, поскольку из $ \sum\limits_{i=1}^{n}w_i=1$
, не следует $ \sum\limits_{i=1}^{n}w_i^2=1$, и поэтому естественно что
$\sigma_{\widetilde{x}} = \frac{\sigma}{\sqrt{n}}$, а не $\sigma_{\widetilde{x}} = \frac{\sigma}{n}$как Вы ложно предполагали.

-- Вс сен 29, 2013 15:17:33 --

--mS-- в сообщении #768922 писал(а):

Вы бы хоть на свои переписанные у кого-то верно производные по $w_i$ посматривали, от Ваших линейных-то функций.

Это существенное замечание. Беру тайм-аут.

[_hum_]

--mS-- в сообщении #768922 писал(а):

Вот, например, я ровно ничего не знаю о существовании эффективной оценки для параметра сдвига распределения Коши (например, при объёмах выборки больше трёх или сколько там надо, чтоб у выборочной медианы было матожидание). Есть что-то лучшее выборочной медианы или эффективной оценки вообще не бывает? Если кто-то знает, где есть информация об этом, буду признательна.

Погуглив, обнаружил статейку: The Pitman estimator of the Cauchy location parameter, в которой в том числе дается обзор существующих оценок и их свойств. В частности, говорится, что

Цитата:

For the Cauchy location family a uniformly minimum variance (UMV) estimator does not exist.

Зато питманновская, о которой идет там речь, оказывается (если я все верно понял):
- UMVUE в классе эквивариантных оценок;
- минимаксной в классе любых оценок (не обязательно эквивариантных);
- "admissible" (недоминируемой?) для $n > 7$ в классе всех возможных .

[--mS--]

Александрович в сообщении #768937 писал(а):

Это существенное замечание. Беру тайм-аут.

Лучше бы Вы взяли назад всю ту чушь, что несёте тут уже пять страниц.

-- Вс сен 29, 2013 21:53:54 --

_hum_ в сообщении #769035 писал(а):

Зато питманновская, о которой идет там речь, оказывается (если я все верно понял):
- "admissible" (недоминируемой?) для $n > 7$ в классе всех возможных .

Любопытно, спасибо! Но видок у неё, конечно, кошмарный. Admissible - "допустимая", что действительно означает недоминируемость.

[Александрович]

AndreyL в сообщении #765254 писал(а):

Измеряется значение некоторой характеристики, предполагается, что оно подчиняется нормальному распределению с центром $a$ и дисперсией $\sigma_0^2$. Значение измеряется несколько раз, при этом точность каждого измерения разная. Предполагается, что ошибка $i$-го измерения подчиняется нормальному распределению с центром 0 и дисперсией $\sigma_i^2$, при этом $\sigma_i^2$ известны для всех $i$ и сопоставимы по порядку значений с $\sigma_0^2$. Если я правильно понимаю, то любое $i$-е измерение будет подчинятся нормальному распределению с центром $a$ и дисперсией $\sigma_0^2+\sigma_i^2$.
Вопрос такой: как получить несмещенные эффективные точечные и интервальные оценки $a$ и $\sigma_0^2$?

Введём вес $x_i$-го измерения, $p_1=\frac{\frac{1}{\sigma^2_i}}{\sum\limits_{i=1}^{n} \frac{1}{\sigma^2_i}}$.

Оценка величины $a$: $\widetilde{a}=\sum\limits_{i=1}^{n} p_ix_i$.

Оценка дисперсии измерений: $\sigma_x^2=\sum\limits_{i=1}^{n} p_i\sigma_i^2$.

Оценка 2-го момента: $\widetilde{m}[x^2]=\sum\limits_{i=1}^{n} p_ix_i^2$.

Оценка дисперсии $\sigma_0^2$: $\widetilde{m}[x^2]-\widetilde{a}^2-\sigma_x^2$.

[--mS--]

Опять набор бессмыслиц? Может, хватит уже? Вам тут втроём втолковывали, что Ваша оценка для $a$ не обладает минимальной дисперсией среди линейных оценок, а Вы снова за своё?

[AndreyL]

Извиняюсь, отвлекся, а тут неплохая дискуссия

Александрович в сообщении #769671 писал(а):

AndreyL в сообщении #765254 писал(а):

Измеряется значение некоторой характеристики, предполагается, что оно подчиняется нормальному распределению с центром $a$ и дисперсией $\sigma_0^2$. Значение измеряется несколько раз, при этом точность каждого измерения разная. Предполагается, что ошибка $i$-го измерения подчиняется нормальному распределению с центром 0 и дисперсией $\sigma_i^2$, при этом $\sigma_i^2$ известны для всех $i$ и сопоставимы по порядку значений с $\sigma_0^2$. Если я правильно понимаю, то любое $i$-е измерение будет подчинятся нормальному распределению с центром $a$ и дисперсией $\sigma_0^2+\sigma_i^2$.
Вопрос такой: как получить несмещенные эффективные точечные и интервальные оценки $a$ и $\sigma_0^2$?

Введём вес $x_i$-го измерения, $p_1=\frac{\frac{1}{\sigma^2_i}}{\sum\limits_{i=1}^{n} \frac{1}{\sigma^2_i}}$.

Оценка величины $a$: $\widetilde{a}=\sum\limits_{i=1}^{n} p_ix_i$.

Оценка дисперсии измерений: $\sigma_x^2=\sum\limits_{i=1}^{n} p_i\sigma_i^2$.

Оценка 2-го момента: $\widetilde{m}[x^2]=\sum\limits_{i=1}^{n} p_ix_i^2$.

Оценка дисперсии $\sigma_0^2$: $\widetilde{m}[x^2]-\widetilde{a}^2-\sigma_x^2$.

А Вы сами то пробовали так считать, хотя-бы какой-нибудь Монте-Карлой? Во-первых, некоторые из оценок $\sigma_0^2$ все-равно получаются отрицательными. Во-вторых, Ваша оценка, похоже смещена влево, т.е. дает явно заниженные оценки дисперсии $\sigma_0^2$.
Если я правильно понимаю (и вроде бы, остальные оппоненты с этим согласны) что в Ваших выкладках присутствует ошибка, а именно, неучет дисперсии самой изучаемой величины при расчете весов.

-- Ср окт 02, 2013 10:01 am --

_hum_ в сообщении #767952 писал(а):

AndreyL в сообщении #767895 писал(а):

Но не в этом дело. Задача в том, чтобы избежать отрицательных оценок дисперсии. Критерия я, к сожалению, не нашел. Есть подозрение, что нужно сравнить полную дисперсию по выборке с дисперсией измерений, но как это корректно сделать?

К сожалению, я не понимаю, что вы пишете. :(

Вот код на Математике, моделирующий обсуждавшуюся ранее ММП оценку $\sigma^2_0$:
сама функция, $n$ можно ставить любой, какой машина потянет.

n=3;
f := Block[{s2 = RandomReal[UniformDistribution[{1, 2}], n], x, s20, a},
 x = Table[    RandomReal[NormalDistribution[0, 1]] + 
     RandomReal[NormalDistribution[0, Sqrt[s2[[i]]]]], {i, n}];
  res = Solve[{Sum[(x[[i]] - a)/(s20 + s2[[i]]), {i, 1, n}] == 0, 
     Sum[((x[[i]] - a)^2 - (s20 + s2[[i]]))/(s20 + s2[[i]])^2, {i, 1, 
        n}] == 0, s20 \[Element] Reals}, {a, s20}];
  {Max[s20 /. res], Variance[x]}]
f

в данном случае $\sigma^2_i$ берутся из равномерного распределения {1, 2}, $\sigma^2_0=1$. На выходе ММП оценка $\sigma^2_0$ и полная дисперсия без учета весов.

Далее моделируем Монте-Карлой и просто строим график

L = 1000;
xx = Table[f, {L}];
ListPlot[xx]
Mean[xx[[;; , 1]]]

Видим хорошую положительную корреляцию оценок $\sigma^2_0$ с полной дисперсией, но некоторые оценки отрицательные, что не радует. Кроме того, матожидание оценки сильно занижено.

[_hum_]

AndreyL в сообщении #769907 писал(а):

но некоторые оценки отрицательные, что не радует

Если речь о дисперсии, то поиск неотрицательных решений уравнения $F(d) = 0$ можно ж просто заменить на поиск любых решений уравнения $F(u^2) = 0$.

AndreyL в сообщении #769907 писал(а):

Кроме того, матожидание оценки сильно занижено.

Ну, наверняка потому, что оценка получается смещенной.

-- Ср окт 02, 2013 14:04:07 --

AndreyL в сообщении #769907 писал(а):

в данном случае $\sigma^2_i$ берутся из равномерного распределения {1, 2}, $\sigma^2_0=1$.

Кстати, это только для модельного случая, или вам, действительно, известно априорное распределение неизвестных параметров. Если последнее, то тогда имеет смысл обратиться к байесовским оценкам.

[AndreyL]

Простая замена s20 на s0^2 с условием s0 \[Element] Reals в уравнениях под Solve приводит к тому, что в некоторых случаях решение просто отсутствует (что и ожидалось).

[_hum_]

AndreyL в сообщении #769950 писал(а):

Простая замена s20 на s0^2 с условием s0 \[Element] Reals в уравнениях под Solve приводит к тому, что в некоторых случаях решение просто отсутствует (что и ожидалось).

Так чем вы тогда недовольны? :) Если решений нет, значит максимум достигается на границе области.

[AndreyL]

_hum_ в сообщении #769939 писал(а):

Кстати, это только для модельного случая, или вам, действительно, известно априорное распределение неизвестных параметров. Если последнее, то тогда имеет смысл обратиться к байесовским оценкам.

К сожалению, не известно, предполагается нормальное, параметры вообще неизвестны. Точнее так - в некоторых случаях известно, что дисперсия самой изучаемой величины $\sigma_0^2$ точно меньше любой из дисперсий измерений $\sigma_i^2$, но только в некоторых случаях.

_hum_ в сообщении #769939 писал(а):

Так чем вы тогда недовольны? :) Если решений нет, значит максимум достигается на границе области.

Т.е. когда $\sigma_0^2=0$, так? Наверное, это можно интерпретировать как $\sigma_0^2 \ll \sigma_i^2$ и считать ее нулевой

-- Ср окт 02, 2013 12:32 pm --

В этом случае хотелось бы иметь априорный критерий - есть решение системы или нет решения. Хотя понятно, что ММП даст в лучшем случае смещенную оценку.

[Александрович]

AndreyL в сообщении #769907 писал(а):

Если я правильно понимаю (и вроде бы, остальные оппоненты с этим согласны) что в Ваших выкладках присутствует ошибка, а именно, неучет дисперсии самой изучаемой величины при расчете весов.

Так долго объяснял, что сам наконец понял. А сколько примерно измерений, датчиков и каковы границы изменения дисперсий с.в. и датчиков?

[AndreyL]

Александрович в сообщении #769963 писал(а):

Так долго объяснял, что сам наконец понял. А сколько примерно измерений, датчиков и каковы границы изменения дисперсий с.в. и датчиков?

Измерений бывает от двух до двух десятков, стандарт с.в. примерно 1-10, стандарты датчиков 2-50. Оно по разному бывает, посему хотелось бы в общем виде.