2014 dxdy logo

Научный форум dxdy

Математика, Физика, Computer Science, Machine Learning, LaTeX, Механика и Техника, Химия,
Биология и Медицина, Экономика и Финансовая Математика, Гуманитарные науки


Правила форума


Посмотреть правила форума



Начать новую тему Ответить на тему На страницу 1, 2, 3, 4  След.
 
 Оценить методом макс. правдоподобия
Сообщение12.11.2021, 17:26 


14/02/20
832
Такая вот задачка:

Let $X_1,... ,X_n$ be a random sample from from a uniform distribution on an interval
$[\theta,3\theta]$, where $\theta >0$ is an unknown parameter.
(a) Construct an estimator using the Method of Moments.
(b) Construct the Maximum Likelihood estimator.

С первым понятно, а второй интереснее. Получается, что произведение плотностей с точки зрения производных сложно исследовать. С другой стороны, чисто "понятийно", ясно, что максимум будет достигаться, если все $x_k\in[\theta,3\theta]$, то есть $3\theta\geqslant\max \{x_k\}$, а $\theta\leqslant \min \{x_k\}$.

Итого получается оценка будет такая:

$\max \{x_k\}/3\leqslant\theta\leqslant\min \{x_k\}$.

Правильно я мыслю?

 Профиль  
                  
 
 Re: Оценить методом макс. правдоподобия
Сообщение12.11.2021, 17:39 
Заслуженный участник
Аватара пользователя


16/07/14
8355
Цюрих
artempalkin в сообщении #1538831 писал(а):
Получается, что произведение плотностей с точки зрения производных сложно исследовать.
Почему? Можете явно выписать значение плотности в точке $x$ в зависимости от $\theta$?
artempalkin в сообщении #1538831 писал(а):
Итого получается оценка будет такая:
$\max \{x_k\}/3\leqslant\theta\leqslant\min \{x_k\}$.
Это не оценка, оценка должна быть числом.

 Профиль  
                  
 
 Re: Оценить методом макс. правдоподобия
Сообщение12.11.2021, 18:36 
Заслуженный участник
Аватара пользователя


30/01/09
6591
mihaild в сообщении #1538833 писал(а):
Это не оценка, оценка должна быть числом.

Топик-стартер намекает, что оценка будет числом из указанного интервала. Или даже так - любое число из указанного интервала будет оценкой.

 Профиль  
                  
 
 Re: Оценить методом макс. правдоподобия
Сообщение12.11.2021, 18:41 


18/09/21
1676
мат-ламер в сообщении #1538847 писал(а):
Или даже так - любое число из указанного интервала будет оценкой.
Нет, надо низ этого интервала брать. Чтобы $3\theta-\theta$ минимальной была.
Вот если распределение - равномерно на $(a,b)$ с неизвестными $a$ и $b$, то maximum likelihood даёт для $a$ мимимум по выборке, для $b$ максиму по выборке.
(Т.к. никакое число из выборки не может быть вне интервала, иначе likelihood нулём будет, а для максимума нужна минимальная ширина интервала.)

-- 12.11.2021, 18:50 --

Другое дело, если окажется что $\max \{x_k\}/3 > \min \{x_k\}$, что тогда?
Likelihood всегда нулём будет.

 Профиль  
                  
 
 Re: Оценить методом макс. правдоподобия
Сообщение12.11.2021, 19:31 
Заслуженный участник


09/05/13
8904
artempalkin в сообщении #1538831 писал(а):
Правильно я мыслю?

Вы забыли найти точку максимума ФМП.

 Профиль  
                  
 
 Re: Оценить методом макс. правдоподобия
Сообщение12.11.2021, 20:40 


14/02/20
832
mihaild в сообщении #1538833 писал(а):
Почему? Можете явно выписать значение плотности в точке $x$ в зависимости от $\theta$?

Otta в сообщении #1538856 писал(а):
Вы забыли найти точку максимума ФМП.


Да, я понял. $L=\frac 1 {(2\theta)^n}$, а значит из этого интервала нужно выбрать минимальное значение $\theta=\max\{x_i\}/3$.

zykov в сообщении #1538848 писал(а):
Другое дело, если окажется что $\max \{x_k\}/3 > \min \{x_k\}$, что тогда?
Likelihood всегда нулём будет.

А что тогда? такого не может быть, потому что не все точки лежат на $[\theta;3\theta]$, какой бы не была $\theta$, то есть задача некорректно сформулирована.

 Профиль  
                  
 
 Re: Оценить методом макс. правдоподобия
Сообщение12.11.2021, 21:01 


18/09/21
1676
artempalkin в сообщении #1538875 писал(а):
то есть задача некорректно сформулирована
Дело не в задаче, а в классе распределений.
Этот класс не может соответствовать данной выборке ни при каких параметрах.

 Профиль  
                  
 
 Re: Оценить методом макс. правдоподобия
Сообщение12.11.2021, 21:25 


14/02/20
832
zykov в сообщении #1538884 писал(а):
Дело не в задаче, а в классе распределений.
Этот класс не может соответствовать данной выборке ни при каких параметрах.

Ну это спорно.
Пусть $X_1=2$, $X_2=9$, найти максимальным правдоподобием значение параметра $\theta$, если это равномерное распределение на отрезке $[\theta;3\theta]$. Я бы сказал, что эта задача некорректно сформулирована. Потому что этот класс распределения не может соответствовать данной выборке ни при каких параметрах.

 Профиль  
                  
 
 Re: Оценить методом макс. правдоподобия
Сообщение12.11.2021, 21:46 


18/09/21
1676
Задачи - это то, что вам даёт преподаватель в учебном заведении.
А принцип максимального правдоподобия - это жизнь. Если не работает для имеющейся выборки, значит класс распределений выбран неверно.

 Профиль  
                  
 
 Re: Оценить методом макс. правдоподобия
Сообщение12.11.2021, 21:48 


14/02/20
832
zykov в сообщении #1538891 писал(а):
Задачи - это то, что вам даёт преподаватель в учебном заведении.
А принцип максимального правдоподобия - это жизнь. Если не работает для имеющейся выборки, значит класс распределений выбран неверно.

Ладно, не будем спорить над некорректно поставленной задачей :D

 Профиль  
                  
 
 Re: Оценить методом макс. правдоподобия
Сообщение12.11.2021, 21:49 
Заслуженный участник
Аватара пользователя


30/01/09
6591
zykov в сообщении #1538848 писал(а):
Другое дело, если окажется что $\max \{x_k\}/3 > \min \{x_k\}$, что тогда?

У нас по условию такого не может быть. Ибо:
artempalkin в сообщении #1538831 писал(а):
Let $X_1,... ,X_n$ be a random sample from from a uniform distribution on an interval
$[\theta,3\theta]$,

artempalkin в сообщении #1538875 писал(а):
а значит из этого интервала нужно выбрать минимальное значение $\theta=\max\{x_i\}/3$

Не всегда.

 Профиль  
                  
 
 Re: Оценить методом макс. правдоподобия
Сообщение12.11.2021, 21:54 


14/02/20
832
мат-ламер в сообщении #1538894 писал(а):
Не всегда.

Хмммм, вы какой-то вырожденный случай имеете в виду? Не могу придумать

 Профиль  
                  
 
 Re: Оценить методом макс. правдоподобия
Сообщение12.11.2021, 22:00 
Заслуженный участник
Аватара пользователя


30/01/09
6591
artempalkin в сообщении #1538896 писал(а):
Хмммм, вы какой-то вырожденный случай имеете в виду? Не могу придумать

Я имел в виду, что если мы будем минимизировать длину интервала, то он будет наезжать на выборку либо правым концом, либо левым. То есть возможны варианты.

 Профиль  
                  
 
 Re: Оценить методом макс. правдоподобия
Сообщение12.11.2021, 22:04 


14/02/20
832
мат-ламер в сообщении #1538899 писал(а):
Я имел в виду, что если мы будем минимизировать длину интервала, то он будет наезжать на выборку либо правым концом, либо левым. То есть возможны варианты.

вот это я не понял
как и это:
zykov в сообщении #1538848 писал(а):
Нет, надо низ этого интервала брать. Чтобы $3\theta-\theta$ минимальной была.

причем здесь длина интервала? мы же максимизируем функцию правдоподобия. там в знаменателе длина интервала, об этом речь? но так или иначе максимум будет при именно такой тете... не врубаюсь я

 Профиль  
                  
 
 Re: Оценить методом макс. правдоподобия
Сообщение12.11.2021, 22:07 
Заслуженный участник
Аватара пользователя


30/01/09
6591
artempalkin в сообщении #1538901 писал(а):
причем здесь длина интервала?

Для равномерного распределения уменьшаем длину интервала (минимизируем $\theta$) - растёт плотность и с ней функция правдоподобия.

Т.е. $\theta$ выбираем минимальным возможным, но так, что все элементы выборки из нашего интервала не вылазили.

 Профиль  
                  
Показать сообщения за:  Поле сортировки  
Начать новую тему Ответить на тему  [ Сообщений: 59 ]  На страницу 1, 2, 3, 4  След.

Модераторы: Модераторы Математики, Супермодераторы



Кто сейчас на конференции

Сейчас этот форум просматривают: нет зарегистрированных пользователей


Вы не можете начинать темы
Вы не можете отвечать на сообщения
Вы не можете редактировать свои сообщения
Вы не можете удалять свои сообщения
Вы не можете добавлять вложения

Найти:
Powered by phpBB © 2000, 2002, 2005, 2007 phpBB Group