Оценка параметра показательного распределения

[Александрович]

Известно что среднее значение показательно распределенных с.в. связано с его параметром как $\mu=\frac{1}{\lambda}$, такая же связь и у $\sigma$. На практике же эти два момента как правило не совпадают. В связи с этим вопрос: если для оценки $\lambda$ брать средневзвешенное значение от этих двух величин не окажется ли она более эффективной чем среднее значение?

[GAA]

По факторизационной теореме Неймана — Фишера (см., например, [1] или [2]) статистика $T=\sum x_i$ является достаточной для параметра (одномерного) показательного распределения. Следовательно, для оценки параметра достаточно использовать $T$ (в виде той или иной функции от неё). Другие статистики не предоставят дополнительной информации о значении параметра.

[Если после празднования на работе я не глючу, то вопрос банальный (и сформулирован коряво), поэтому тему перенёсу через день в «Чулан» дабы она не топила темы без ответов.]

[1] Ивченко Г.И., Медведев Ю.И. Математическая статистика, 1984; §2.3 («Принцип достаточности и ...»).
[2] Боровков А.А. Математическая статистика. Оценка параметров, проверка гипотез., 1984; §2.12 («Достаточные статистики»).

[Александрович]

GAA в сообщении #829381 писал(а):

Другие статистики не предоставят дополнительной информации о значении параметра.

Спасибо.

-- Сб фев 22, 2014 19:51:43 --

GAA в сообщении #829381 писал(а):

вопрос банальный (и сформулирован коряво)

А как было нужно ("не коряво") сформулировать вопрос? Покажите мастер-класс.

[GAA]

Хорошо бы было привести плотность. Далее, $\sigma$ — не момент. Когда Вы пишете о несовпадении, то видимо говорите не о $\sigma$ и $\mu$, а об их оценках. Аналогично в последнем предложении. В качестве оценки $\sigma$, возможно, Вы предполагаете корень из выборочного второго центрального момента (или $\frac{1}{n-1}\sum (x_i -\bar x)^2$, или другой, но, по крайней мере, отличной от функции от $T$.).

Если я угадал правильно, то, надеюсь, ответил правильно. В любом случае ссылки приведены. Можно посмотреть и разобраться.

-- Sat 22.02.2014 16:56:13 --

Никто за автора точно вопрос сформулировать не может. Поэтому, даже если у меня было бы достаточно знаний (а это не так), я бы точно вопрос сформулировать не смог.

[Евгений Машеров]

Вопрос распадается на два подвопроса.
1. Можно ли в принципе улучшить оценку так?
2. Почему из двух оценок нельзя сделать лучшую, хотя во множестве задач мы усредняем величины, получая более точную оценку?

1. Нельзя, и уже сказано почему. По причине достаточности статистики среднего арифметического. Хотя если использовать не среднеквадратичный критерий, а какой-то иной, это рассуждение неприменимо. Но придумать критерий, для которого такой подход лучше, я не в силах.
2. Потому, что они не независимы. И отклонение одной оценки от истинного не компенсируется второй (а там ещё и нелинейная связь, и отклонение ещё и усиливается).

[GAA]

Евгений Машеров в сообщении #829895 писал(а):

Хотя если использовать не среднеквадратичный критерий, а какой-то иной, это рассуждение неприменимо.

Боюсь, рассуждение не связано со среднеквадратичным подходом к сравнению оценок.

Раз в теме поучаствовал кроме меня и ТС еще и Евгений Машеров, срочно переносить тему в «Чулан» я не буду.

[Евгений Машеров]

В порядке "пощупать руками".
Смоделировал 100 выборок по десять экспоненциально распределённых чисел с параметром 1.
Оценки по среднему - X, по стандартному отклонению - Y

Видно, что:
1. Эти оценки весьма коррелированы.
2. Корреляция имеет, по-видимому, нелинейный характер (хотя для таких утверждений нужно доказательство, а не просто картинка, и даже не наличие значимой нелинейной регрессии).
3. Среднеквадратичное от истинного значения оценки по СКО выше, чем по среднему, примерно на 28% (тоже сугубо эмпирический факт).

Оценка "простое среднее между двумя названными" даёт большее отклонение от оценки параметра, чем по среднему, отклонение примерно на 10% выше.
Если бы две эти оценки были независимы, то даже несмотря на большее СКО для второй, можно было бы использовать для улучшения, подобрав веса среднего. Но независимости нет (п. 1 и п.2), причём из того, что среднее - "достаточная статистика", следует, что и быть не может.

[Александрович]

Спасибо. Попробую помоделировать.

[Евгений Машеров]

На всякий случай поясню - задача, как она была поставлена вначале, не требует для ответа имитационного моделирования, ответ даётся словами "достаточная статистика" Численный эксперимент проведен скорее в качестве демонстрации, почему такое, кажущееся интуитивно ясным решение вдруг не работает.

[Александрович]

Евгений Машеров в сообщении #830132 писал(а):

Видно, что:
1. Эти оценки весьма коррелированы.
2. Корреляция имеет, по-видимому, нелинейный характер (хотя для таких утверждений нужно доказательство, а не просто картинка, и даже не наличие значимой нелинейной регрессии).

Между ними существует функциональная связь:
$\sigma[X]=\sqrt{M[X^2]-M^2[X]}$.
Поэтому несколько переформулирую задачу и предложу вторую оценку параметра показательного распределения считать через 2-ой начальный момент.
$\frac{1}{\lambda}=\sqrt{\frac{M[X^2]}{2}}$
И брать среди них средневзвешенное значение.

[Александрович]

Промоделировал 100 выборок по 50. Дисперсия почти одинаковая и корреляция 0.87. Не получится.

[Евгений Машеров]

Функциональная связь между ними была бы при фиксированном $M[X^2]$
А так всё же корреляция.