Хи-квадрат для распределения Лапласа

[alisa-lebovski]

Цитата:

Мне всегда казалось, что ММП оценка является эффективной, т.е. иметь минимальную, среди всех возможных оценок, дисперсию.

Вообще-то утверждение в обратную сторону: если существует эффективная оценка, то она является оценкой максимального правдоподобия. Исследование оценок на эффективность - это само по себе сложное дело. В данном случае эффективных оценок, по-видимому, не существует, так что может быть что угодно.

В общем, на мой взгляд, ситуация следующая. Пусть $m$ - число отрезков разбиения. Вы оцениваете параметры, считаете статистику хи-квадрат. Если она получается меньше критической точки хи-квадрат с $m-3$ степенями свободы, то гипотеза о согласии принимается. Если больше критической точки с $m-1$ степенью свободы, то отклоняется. Если оказывается между ними, то неизвестно.

[Евгений Машеров]

Andrey_Kireew в сообщении #1413545 писал(а):

В общем я промоделировал несколько раз распределение Лапласа на выборках разного объёма (в maple). Результаты странные, и это мягко говоря. Получается, что средне выборочное значение точнее отражает параметр $\beta$, чем медиана. Аналогично и со средним абсолютным отклонением, которое хуже отражает $\alpha$, чем стандартное отклонение. Хотя должно быть всё наоборот. Какие же это ММП оценки, если наблюдается такая картина? Мне всегда казалось, что ММП оценка является эффективной, т.е. иметь минимальную, среди всех возможных оценок, дисперсию.

Ещё раз прошу подробностей по технике моделирования. У меня при грубой прикидке получилось вполне согласующееся с теорией. Для выборок по 25 элементов дисперсия среднего (по 768 испытаниям) превышает дисперсию медианы в 1.4-1.7 раза.

[alisa-lebovski]

Кстати, если это все нужно в прикладных целях, я бы посоветовала еще сделать вероятностную бумагу. Например, набор точек вида $(x_{(k)},F^{-1}_0(k/(n+1)))$, $1\le k\le n$, где $F^{-1}_0$ - обратная функция к стандартной лапласовской функции распределения (с $\alpha=1$ и $\beta=0$), $x_{(k)}$ - $k$-ый член вариационного ряда наблюдений (по возрастанию), $n$ - число наблюдений. Если гипотеза верна, точки должны (приблизительно) выстроиться в прямую линию с уравнением $y=\alpha(x-\beta)$, так и параметры тоже можно оценить.

[Markiyan Hirnyk]

--mS-- Вы пишите

Цитата:

Так что предельное распределение не только не есть $\chi^2_{N-m-1}$, но существенно больше. Использование ОМП, полученных по выборке, в критерии хи-квадрат, - это настолько типичная, широко известная, всюду подчёркиваемая ошибка, что обсуждать тут вообще нечего.

Если посмотреть пример 1 по распределению Пуассона в пункте 30.4 книги Г. Крамера, то в нем автор получает громоздкую оценку $\lambda^* $ для параметра $\lambda$, а затем пишет

Цитата:

Таким образом, оценкой $\lambda^* $ для параметра $\lambda$ может служить среднее арифметическое выборочных значений $\lambda^* =\frac 1 n \sum\limits_1^n x_k = \overline{x}.$

[Andrey_Kireew]

Евгений Машеров в сообщении #1413560 писал(а):

Ещё раз прошу подробностей по технике моделирования

Я генерировал выборку из распределения Лапласа с заданными параметрами, а потом пытался оценить эти самые параметры по сгенерированой выборке разными способами. Получается, что среднеарифметическое даёт более точную оценку $\beta $чем медиана, а стандартное отклонение позволяет точнее оценить $\alpha$ чем среднее абсолютное отклонение. Пробовал раз 5, объём выборки от 1000 до 3000. Всё время одно и то же. Различия не кардинальные, но заметные 10-20%. Данные генерировал в maple6, может конечно всё дело в генераторе случайных чисел. Но сравнить не с чем, в matlab такого генератора к сожалению нет.

-- 04.09.2019, 16:49 --

alisa-lebovski в сообщении #1413554 писал(а):

В данном случае эффективных оценок, по-видимому, не существует, так что может быть что угодно

Т.е. Вы намекаете на то, что при отсутствии эффективных оценок, некоторые оценки запросто могут быть лучше оценок ММП?

[--mS--]

Markiyan Hirnyk в сообщении #1413594 писал(а):

Если посмотреть пример 1 по распределению Пуассона в пункте 30.4 книги Г. Крамера, то в нем автор получает громоздкую оценку $\lambda^* $ для параметра $\lambda$, а затем пишет

Цитата:

Таким образом, оценкой $\lambda^* $ для параметра $\lambda$ может служить среднее арифметическое выборочных значений $\lambda^* =\frac 1 n \sum\limits_1^n x_k = \overline{x}.$

Для распределения Пуассона, да ещё и при одноточечных интервалах группировки (кроме последнего) - да. А при чём тут Лаплас?

[alisa-lebovski]

Цитата:

Т.е. Вы намекаете на то, что при отсутствии эффективных оценок, некоторые оценки запросто могут быть лучше оценок ММП?

Да запросто. Например, для дисперсии нормального распределение оценкой ММП является неисправленная дисперсия (смещенная), а исправленная (несмещенная) лучше.

[Andrey_Kireew]

alisa-lebovski в сообщении #1413618 писал(а):

Например, для дисперсии нормального распределение оценкой ММП является неисправленная дисперсия (смещенная), а исправленная (несмещенная) лучше

тогда, лишь остаётся признать, что параметр $\alpha$ лучше оценивать через дисперсию, хотя это и не будет ММП оценкой.

[Евгений Машеров]

Всё-таки хотел бы подробнее узнать о моделировании. А то не сходится не только с теорией, но и с моим численным экспериментом.

[Andrey_Kireew]

Евгений Машеров в сообщении #1413626 писал(а):

Всё-таки хотел бы подробнее узнать о моделировании

Что конкретно Вы хотели бы узнать? в сообщении https://dxdy.ru/post1413599.html#p1413599 всё описано достаточно подробно

[Евгений Машеров]

Как генерируются величины с распределением Лапласа? Если "закрытый" генератор - то насколько выход соответвует Лапласу? В смысле двойному экспоненциальному, а то во французской литературе встречается "распределение Лапласа второго рода". Как оцениваете отклонения оценок параметров от фактических?

[Andrey_Kireew]

Кто его знает, как я уже писал, генерировал в пакете maple6 (есть там функция laplace[a,b] ), строил гистограмму - по внешнему виду похоже на то что нужно. Но у Вас численный эксперимент проведён совсем по другому, да и объёмы выборок совсем не те. Может по этому и не совпадает.
Я ведь не делал 1000 реплик и не оценивал по ним разброс выборочной медианы и среднего, а провёл всего несколько симуляций, и посмотрел, насколько точно получается оценить истинные параметры распределения. По идее да, чем меньше разброс параметра, тем точнее с его помощью можно оценить и другие, связанные с ним, параметры распределения. Но у меня получилось так как получилось, разброс медианы и среднего я оценить и не пытался, ведь это же всё вторично. Зачем это делать, когда можно прямо посмотреть какие параметры наиболее точны?

[Евгений Машеров]

Так сколько же было сравнений? "Несколько" - чему равно? И как Вы сравнивали с "истинными параметрами"? У меня-то просто было, я изначально генерировал с нулевым средним, так что должен быть теоретический ноль, и дисперсия оценивает разброс.

[Markiyan Hirnyk]

Andrey_Kireew

Цитата:

Кто его знает, как я уже писал, генерировал в пакете maple6 (есть там функция laplace[a,b]

Ваши слова не соответствуют действительности: Maple 6 не содержит такой команды.

with(stats);
[anova, describe, fit, importdata, random, statevalf, statplots, transform]

Пожалуйста, приведите использованный Вами код Мэйпла.

[Andrey_Kireew]

Раз 5-7. Среднее и масштаб я задавал не нулевыми. Кажется 12 и 43, с этими значениями и сравнивал полученные оценки. Оценка среднего получалось 13 по матожиданию, и примерно13,5 по медиане. Что то наподобие и с параметром масштаба. Но это по памяти, те результаты я не сохранил.

-- 04.09.2019, 22:46 --

Markiyan Hirnyk в сообщении #1413642 писал(а):

Ваши слова не соответствуют действительности: Maple 6 не содержит такой команды:

Согласен, вполне возможно, что вашей "суровой" действительности они и не соответствуют. Если, как намекали другие участники дискуссии, вы даже не в состоянии понять смысла прочитанной вами же книги, то я предпочёл бы держаться от этой "действительности" подальше. Не стану подливать масла в огонь и задавать вопрос о том, умеете ли вы пользоваться maple. Тем более, что для этого так или иначе, необходимо хоть как то понять смысл мануала...
За многие годы участия на форуме, во лжи и фальсификации фактов меня пытались обвинить многие, но никому этого сделать до сих пор так и не удалось. Исключительно ради поддержания своего честного имени:

P.S.: и не надо думать, что я повёлся на вашу "пургу", думаю понятно, что больше никаких подтверждений приводить я вам не стану. Есть желание повысить квалификацию - запишитесь на соответствующие курсы.