2014 dxdy logo

Научный форум dxdy

Математика, Физика, Computer Science, Machine Learning, LaTeX, Механика и Техника, Химия,
Биология и Медицина, Экономика и Финансовая Математика, Гуманитарные науки


Правила форума


В этом разделе нельзя создавать новые темы.



Начать новую тему Ответить на тему
 
 Найти ОМП - проблема с индикатором
Сообщение28.12.2009, 13:07 


28/12/09
4
Осталось решить этот пример для зачета, что-то я не понимаю, чего хочет препод.
$
p(x,\theta)=\left\{ \begin{array}{l}
\frac 1 {2xa}, x \in [exp(-a), 1]\\
\frac 1 {2xb}, x \in [1, exp(b)]\\
0, x \notin [exp(-a), exp(b)],
\end{array} \right.
\theta=(a, b)
$
Соответственно, написал функцию правдоподобия:
$
L(\overline x, \theta)=\prod\limits_{i=1}^n {p(\overline x_i, \theta)}*\bigl{1}_{\left\{x \in [exp(-a), exp(b)]\right\}} = \prod\limits_{i=1}^n {\frac 1 {2xa}}*\bigl{1}_{\left\{x \in [exp(-a), 1]\right\}}+\prod\limits_{i=1}^n {\frac 1 {2xb}}*\bigl{1}_{\left\{x \in [1, exp(b)]\right\}}
$
где цифра "1" - это индикатор, не нашел в TeX для него тэга. До этого момента все верно, проверено преподавателем.
Далее обычно по алгоритму идет логарифмирование функции правдоподобия, но в данном случае индикатор этого сделать не дает. Поэтому нужно решать иначе. Я предполагал, что нужно как можно больше сделать первый промежуток для x: $x \in [exp(-a), 1]$ и наоборот уменьшить второй $x \in [1, exp(b)]$, потому что в функции правдоподобия у нас произведение и умножение на число меньшее единицы, естественно, уменьшает его. Однако преподаватель почему то совсем не обращает внимание на это, но обращает внимание на $\prod\limits_{i=1}^n {p(\overline x_i, \theta)*\bigl{1}_\left\{x \in [exp(-a), exp(b)]\right\}$, мол, при каких a и b промежуток для индикатора максимален. Мне кажется, я его не до конца понял.
Поэтому прошу помощи подсказать, что же делать с такой функцией и наметки как решать дальше?
Спасибо.

 Профиль  
                  
 
 Re: Найти ОМП - проблема с индикатором
Сообщение28.12.2009, 19:54 
Заслуженный участник
Аватара пользователя


23/11/06
4171
LLIAMAH90 в сообщении #275891 писал(а):
Соответственно, написал функцию правдоподобия:
$$
L(\overline x, \theta)=\prod\limits_{i=1}^n {p(\overline x_i, \theta)}*\bigl{1}_{\left\{x \in [exp(-a), exp(b)]\right\}} = 
$$
$$=\prod\limits_{i=1}^n {\frac 1 {2xa}}*\bigl{1}_{\left\{x \in [exp(-a), 1]\right\}}+\prod\limits_{i=1}^n {\frac 1 {2xb}}*\bigl{1}_{\left\{x \in [1, exp(b)]\right\}}$$
где цифра "1" - это индикатор, не нашел в TeX для него тэга. До этого момента все верно, проверено преподавателем.

Функция правдоподобия записана неверно. Все индикаторы зависят от какого-то $x$, который не является аргументом $L(\overline x, \theta)$, но совершенно не зависит от выборки. Кстати, буквой $L$ обычно логарифмическая ф.п. обозначается. Сначала запишите правильно ф.п.

Да, кстати: как произведение плотностей превратилось в сумму двух произведений?

 Профиль  
                  
 
 Re: Найти ОМП - проблема с индикатором
Сообщение28.12.2009, 20:35 


28/12/09
4
По обозначению: конкретно у нас используется L, даже в учебнике, хотя по интернету я видел что по-другому. А логарифмическая ф.п. у нас LL, как то так. Если надо по-другому - без проблем, скажите как.
В произведение оно превратилось потому что ведь всегда будет получатся, что один из членов равен нулю, области по иксу не пересекаются. Единственно, непонятно, какую функцию брать в единице - первую или вторую? Самый простой вариант - первую, наверное так.

По ф.п.. Не понимаю, как еще ее можно записать. Может так?
$
L(\overline x, \theta)=\prod\limits_{i=1}^n {p(\overline x_i, \theta)}*\bigl{1}_{\left\{\overline x_i \in [exp(-a), exp(b)]\right\}} = \prod\limits_{i=1}^n {\frac 1 {2xa}}*\bigl{1}_{\left\{\overline x_i \in [exp(-a), 1]\right\}}+\prod\limits_{i=1}^n {\frac 1 {2xb}} * \bigl{1}_{\left\{\overline x_i \in [1, exp(b)]\right\}}
$
Про сумму не скажу, но про $
L(\overline x, \theta)=\prod\limits_{i=1}^n {p(\overline x_i, \theta)}*\bigl{1}_{\left\{\overline x_i \in [exp(-a), exp(b)]\right\}}$ преподаватель сказал, что верно. Может я что-то упускаю?

 Профиль  
                  
 
 Re: Найти ОМП - проблема с индикатором
Сообщение28.12.2009, 21:19 
Заслуженный участник
Аватара пользователя


23/11/06
4171
Н-да... Выборка состоит из элементов $x_1,\ldots, x_n$? Что там за чёрточки над $x_i$ и зачем?
Если
$$p(x, \theta) = \frac{1}{2ax} \cdot I(e^{-a}\leqslant x \leqslant 1) + \frac{1}{2bx} \cdot I(1 < x \leqslant e^b), $$
то $p(x_i, \theta)$ получается заменой всех вхождений $x$ в правой части на $x_i$. Запишите нормально $p(x_1, \theta)$ и $p(x_2, \theta)$ и перемножьте.

LLIAMAH90 в сообщении #276026 писал(а):
Про сумму не скажу, но про $
L(\overline x, \theta)=\prod\limits_{i=1}^n {p(\overline x_i, \theta)}*\bigl{1}_{\left\{\overline x_i \in [exp(-a), exp(b)]\right\}}$ преподаватель сказал, что верно. Может я что-то упускаю?

Преподаватель реабилитирован. Упускаете: $(a+b)(c+d)\neq ac+db$.

 Профиль  
                  
 
 Re: Найти ОМП - проблема с индикатором
Сообщение28.12.2009, 21:58 


28/12/09
4
Так у нас же первое условие идет:
$p(x,\theta)=\frac 1 {2xa}$, если $x \in [exp(-a), 1]$;
$p(x,\theta)=\frac 1 {2xb}$, если $x \in [1, exp(b)]$, иначе функция равна нулю. Области пересекаются только в единице, но брать-то надо только одну функцию, беру первую. Поэтому всегда у нас только один икс в одной функции в соответствии с областями. Получается вот так тогда:
$
L(\overline x, \theta)=\prod\limits_{i=1}^n {p(x_i, \theta)}*\bigl{1}_{\left\{x_i \in [exp(-a), exp(b)]\right\}} = \prod\limits_{i=1}^n {({\frac 1 {2xa}}*\bigl{1}_{\left\{x_i \in [exp(-a), 1]\right\}}+{\frac 1 {2xb}} * \bigl{1}_{\left\{x_i \in [1, exp(b)]\right\}})}
$
То есть произведение сумм, где один член всегда равен нулю из-за индикатора.
Ну и как уже писал, я предполагал вот что: если $x_i$ в первом промежутке, то делим единицу на число между exp(-a), стремящимся к нулю при $a \to \infty$, и единицей и получаем число больше единицы, все ок. Если же $x_i$ во втором промежутке, то делим единицу на число от 1 и до exp(b), получаем число от нуля до единицы и умножать на такое число совсем не хочется, функция будет уменьшатся. Нам же надо максимальное значение. Поэтому я старался exp(-a) приблизить к нулю, чтобы увеличить возможность попадания иксов в первый промежуток, при этом нельзя брать очень большое a, на него мы тоже делим, а exp(b) приблизить к единице, чтобы уменьшить возможность попадания во второй. Начал объяснять про параметр b, почему и как, преподаватель даже не дослушал, завернул от ворот поворот.
Так я понял этот метод - найти параметры при которых функция правдоподобия максимальна. У нас это a и b. Но кажется я где-то не прав.

Про свое первое неверное произведение все понял, что-то я совсем с ума сошел такое писать :? .

 Профиль  
                  
 
 Re: Найти ОМП - проблема с индикатором
Сообщение28.12.2009, 22:14 
Заслуженный участник
Аватара пользователя


23/11/06
4171
LLIAMAH90 в сообщении #276055 писал(а):
Получается вот так тогда:
$
L(\overline x, \theta)=\prod\limits_{i=1}^n {p(x_i, \theta)}*\bigl{1}_{\left\{x_i \in [exp(-a), exp(b)]\right\}} = \prod\limits_{i=1}^n {({\frac 1 {2xa}}*\bigl{1}_{\left\{x_i \in [exp(-a), 1]\right\}}+{\frac 1 {2xb}} * \bigl{1}_{\left\{x_i \in [1, exp(b)]\right\}})}
$

Что за $x$ опять участвует в правой части?

По поводу остальных рассуждений: оценкой максимального правдоподобия называется такое значение параметра, при котором достигается максимум функции правдоподобия (при фиксированной выборке). Чтобы при заданной выборке увеличить ф.п., нужно максимально уменьшить $a$ и $b$. Но уменьшать их до нуля не позволят фиксированные $x_1,\ldots,x_n$ - например, $e^{-a}$ не может стать больше, чем самый маленький из тех элементов выборки, которые слева от единицы.

Чтобы рассмотреть ситуацию подробнее, давайте предположим, что $\sum_{i=1}^n I(x_i \leqslant 1) = k$, т.е. ровно $k$ штук элементов выборки лежат слева от 1. При каких $a$ и $b$ достигается тогда максимум ф.п.?

Может быть, для этого полезно иначе записать ф.п. В том произведении, которое равно функции правдоподобия, Вы должны перемножать $1/2$ - сколько раз? $1/x_i$ - все? $1/a$ - сколько раз? $1/b$ - сколько раз?

 Профиль  
                  
 
 Re: Найти ОМП - проблема с индикатором
Сообщение29.12.2009, 14:51 


28/12/09
4
Возьму тайм-аут, поштудирую еще книги и лекции. Числа второго обязательно отпишусь. Спасибо за наводку на мысли.

 Профиль  
                  
Показать сообщения за:  Поле сортировки  
Начать новую тему Ответить на тему  [ Сообщений: 7 ] 

Модераторы: Модераторы Математики, Супермодераторы



Кто сейчас на конференции

Сейчас этот форум просматривают: нет зарегистрированных пользователей


Вы не можете начинать темы
Вы не можете отвечать на сообщения
Вы не можете редактировать свои сообщения
Вы не можете удалять свои сообщения
Вы не можете добавлять вложения

Найти:
Powered by phpBB © 2000, 2002, 2005, 2007 phpBB Group