Оценить методом макс. правдоподобия

[artempalkin]

Такая вот задачка:

Let $X_1,... ,X_n$ be a random sample from from a uniform distribution on an interval
$[\theta,3\theta]$, where $\theta >0$ is an unknown parameter.
(a) Construct an estimator using the Method of Moments.
(b) Construct the Maximum Likelihood estimator.

С первым понятно, а второй интереснее. Получается, что произведение плотностей с точки зрения производных сложно исследовать. С другой стороны, чисто "понятийно", ясно, что максимум будет достигаться, если все $x_k\in[\theta,3\theta]$, то есть $3\theta\geqslant\max \{x_k\}$, а $\theta\leqslant \min \{x_k\}$.

Итого получается оценка будет такая:

$\max \{x_k\}/3\leqslant\theta\leqslant\min \{x_k\}$.

Правильно я мыслю?

[mihaild]

artempalkin в сообщении #1538831 писал(а):

Получается, что произведение плотностей с точки зрения производных сложно исследовать.

Почему? Можете явно выписать значение плотности в точке $x$ в зависимости от $\theta$?

artempalkin в сообщении #1538831 писал(а):

Итого получается оценка будет такая:
$\max \{x_k\}/3\leqslant\theta\leqslant\min \{x_k\}$.

Это не оценка, оценка должна быть числом.

[мат-ламер]

mihaild в сообщении #1538833 писал(а):

Это не оценка, оценка должна быть числом.

Топик-стартер намекает, что оценка будет числом из указанного интервала. Или даже так - любое число из указанного интервала будет оценкой.

[zykov]

мат-ламер в сообщении #1538847 писал(а):

Или даже так - любое число из указанного интервала будет оценкой.

Нет, надо низ этого интервала брать. Чтобы $3\theta-\theta$ минимальной была.
Вот если распределение - равномерно на $(a,b)$ с неизвестными $a$ и $b$, то maximum likelihood даёт для $a$ мимимум по выборке, для $b$ максиму по выборке.
(Т.к. никакое число из выборки не может быть вне интервала, иначе likelihood нулём будет, а для максимума нужна минимальная ширина интервала.)

-- 12.11.2021, 18:50 --

Другое дело, если окажется что $\max \{x_k\}/3 > \min \{x_k\}$, что тогда?
Likelihood всегда нулём будет.

[Otta]

artempalkin в сообщении #1538831 писал(а):

Правильно я мыслю?

Вы забыли найти точку максимума ФМП.

[artempalkin]

mihaild в сообщении #1538833 писал(а):

Почему? Можете явно выписать значение плотности в точке $x$ в зависимости от $\theta$?

Otta в сообщении #1538856 писал(а):

Вы забыли найти точку максимума ФМП.

Да, я понял. $L=\frac 1 {(2\theta)^n}$, а значит из этого интервала нужно выбрать минимальное значение $\theta=\max\{x_i\}/3$.

zykov в сообщении #1538848 писал(а):

Другое дело, если окажется что $\max \{x_k\}/3 > \min \{x_k\}$, что тогда?
Likelihood всегда нулём будет.

А что тогда? такого не может быть, потому что не все точки лежат на $[\theta;3\theta]$, какой бы не была $\theta$, то есть задача некорректно сформулирована.

[zykov]

artempalkin в сообщении #1538875 писал(а):

то есть задача некорректно сформулирована

Дело не в задаче, а в классе распределений.
Этот класс не может соответствовать данной выборке ни при каких параметрах.

[artempalkin]

zykov в сообщении #1538884 писал(а):

Дело не в задаче, а в классе распределений.
Этот класс не может соответствовать данной выборке ни при каких параметрах.

Ну это спорно.
Пусть $X_1=2$, $X_2=9$, найти максимальным правдоподобием значение параметра $\theta$, если это равномерное распределение на отрезке $[\theta;3\theta]$. Я бы сказал, что эта задача некорректно сформулирована. Потому что этот класс распределения не может соответствовать данной выборке ни при каких параметрах.

[zykov]

Задачи - это то, что вам даёт преподаватель в учебном заведении.
А принцип максимального правдоподобия - это жизнь. Если не работает для имеющейся выборки, значит класс распределений выбран неверно.

[artempalkin]

zykov в сообщении #1538891 писал(а):

Задачи - это то, что вам даёт преподаватель в учебном заведении.
А принцип максимального правдоподобия - это жизнь. Если не работает для имеющейся выборки, значит класс распределений выбран неверно.

Ладно, не будем спорить над некорректно поставленной задачей

[мат-ламер]

zykov в сообщении #1538848 писал(а):

Другое дело, если окажется что $\max \{x_k\}/3 > \min \{x_k\}$, что тогда?

У нас по условию такого не может быть. Ибо:

artempalkin в сообщении #1538831 писал(а):

Let $X_1,... ,X_n$ be a random sample from from a uniform distribution on an interval
$[\theta,3\theta]$,

artempalkin в сообщении #1538875 писал(а):

а значит из этого интервала нужно выбрать минимальное значение $\theta=\max\{x_i\}/3$

Не всегда.

[artempalkin]

мат-ламер в сообщении #1538894 писал(а):

Не всегда.

Хмммм, вы какой-то вырожденный случай имеете в виду? Не могу придумать

[мат-ламер]

artempalkin в сообщении #1538896 писал(а):

Хмммм, вы какой-то вырожденный случай имеете в виду? Не могу придумать

Я имел в виду, что если мы будем минимизировать длину интервала, то он будет наезжать на выборку либо правым концом, либо левым. То есть возможны варианты.

[artempalkin]

мат-ламер в сообщении #1538899 писал(а):

Я имел в виду, что если мы будем минимизировать длину интервала, то он будет наезжать на выборку либо правым концом, либо левым. То есть возможны варианты.

вот это я не понял
как и это:

zykov в сообщении #1538848 писал(а):

Нет, надо низ этого интервала брать. Чтобы $3\theta-\theta$ минимальной была.

причем здесь длина интервала? мы же максимизируем функцию правдоподобия. там в знаменателе длина интервала, об этом речь? но так или иначе максимум будет при именно такой тете... не врубаюсь я

[мат-ламер]

artempalkin в сообщении #1538901 писал(а):

причем здесь длина интервала?

Для равномерного распределения уменьшаем длину интервала (минимизируем $\theta$) - растёт плотность и с ней функция правдоподобия.

Т.е. $\theta$ выбираем минимальным возможным, но так, что все элементы выборки из нашего интервала не вылазили.