2014 dxdy logo

Научный форум dxdy

Математика, Физика, Computer Science, Machine Learning, LaTeX, Механика и Техника, Химия,
Биология и Медицина, Экономика и Финансовая Математика, Гуманитарные науки




 
 Совместная оценка методом максимального правдоподобия
Сообщение30.11.2012, 04:07 
Доброе время суток. Есть такая задачка:

Непрерывная случайная величина имеет равномерное распределение вероятности на интервале [a; b]:

$f(z) = \begin{cases} \frac{1}{b-a}; \;\; z \in [a; b] \\ 0; \;\; z \notin [a; b] \end{cases}$

Методом моментов и методом максимального правдоподобия найти совместную оценку параметров: $\hat{a}$ и $\hat{b}$ и сравнить оценки полученные этими двумя методами.

С моментами всё нормально решается, а вот с методом макс правдоподобия что-то не могу понять. Функция правдоподобия получается такая:

$W(\vec{z}; a, b) = \prod_{i=1}^{n} f(z_i; a,b); \\ \\
W(\vec{z}; a, b) = \prod_{i=1}^{n} \left ( \frac{1}{b-a} \right ) = \left ( \frac{1}{b-a} \right )^n;$

- это для случая, если $z \in [a; b]$, в остальных случаях так же остается нуль, т.е.:

$W(\vec{z}; a, b) = \begin{cases} \left (\frac{1}{b-a}  \right )^n; \;\; z \in [a; b] \\ 0; \;\; z \notin [a; b] \end{cases}$

И вот дальше у меня ступор: если попытаться, как обычно, взять производные по $\partial a$ и $\partial b$ и приравнять к нулю, получается система, имеющая бесконечное число решений для a и b, да и даже без производных, если построить график функции - видно, что экстремумов там нет и функция правдободобия, получается, достигает максимума при любых $z \in [a; b]$.

Подскажите, в каком направлении вообще думать в таком случае и как искать оценки? Или может я уже где-то в рассуждениях выше не прав? Заранее спасибо :)

 
 
 
 Re: Совместная оценка методом максимального правдоподобия
Сообщение30.11.2012, 08:44 
Аватара пользователя
taburetkin в сообщении #651806 писал(а):
$W(\vec{z}; a, b) = \begin{cases} \left (\frac{1}{b-a}  \right )^n; \;\; z \in [a; b] \\ 0; \;\; z \notin [a; b] \end{cases}$

Кто такое у Вас $z$ в правой части в функции правдоподобия? Слева вроде вектор $\vec z$ участвует. Вообще, на функцию правдоподобия следует смотреть как на функцию параметров. Вот и запишите её как функцию от $a$ и $b$: при каких значениях $a$ и $b$ (в зависимости от выборки $\vec z$) она равна $\frac{1}{(b-a)^n}$. При $a$, не большем чего? При $b$, не меньшем чего? И после смотрите, какой выбор параметров $a$ и $b$ её максимизирует.

Вообще перед двумерными задачами обычно одномерные решают. ОМП для параметра $\theta$ равномерного распределения на $[0,\,\theta]$ искать умеете?

 
 
 
 Re: Совместная оценка методом максимального правдоподобия
Сообщение30.11.2012, 15:29 
Цитата:
ОМП для параметра равномерного распределения на искать умеете?

Вообще оценки методом МП искал, но для других распределений, с равномерным не сталкивался. Для одномерного случая нашел пример решения, пытаюсь разобраться.

Цитата:
Кто такое у Вас $z$ в правой части в функции правдоподобия?

Забыл индексы поставить, там каждое $z_i$ принадлежит интервалу.

Цитата:
Вообще, на функцию правдоподобия следует смотреть как на функцию параметров.

От параметров получается так, если правильно понимаю:

$W(\vec z;a,b) = \begin{cases} \frac{1}{(b-a)^n}; \;\;  a \leq z_i,\; b \geq z_i \\ 0; \end{cases}$

Максимума функция будет достигать там, где разность $(b - a)$ ближе всего к нулю; учитывая ограничения в формуле выше, получаются следующие значения параметров: a = \underset{1 \leq i \leq n}{\min z_i};  \; b = \underset{1 \leq i \leq n}{\max z_i}, при которых эта разность будет минимальной. Верно?

 
 
 
 Re: Совместная оценка методом максимального правдоподобия
Сообщение30.11.2012, 17:06 
Аватара пользователя
taburetkin в сообщении #651986 писал(а):
$W(\vec z;a,b) = \begin{cases} \frac{1}{(b-a)^n}; \;\;  a \leq z_i,\; b \geq z_i \\ 0; \end{cases}$

Максимума функция будет достигать там, где разность $(b - a)$ ближе всего к нулю; учитывая ограничения в формуле выше, получаются следующие значения параметров: a = \underset{1 \leq i \leq n}{\min z_i};  \; b = \underset{1 \leq i \leq n}{\max z_i}, при которых эта разность будет минимальной. Верно?

Последнее верно, а вот запись функции, в которой левая часть от $i$ не зависит, а правая зависит, никуда не годится. Кванторы или минимум-максимум выборки должны в правой части возникать, верно?

 
 
 
 Re: Совместная оценка методом максимального правдоподобия
Сообщение30.11.2012, 17:37 
--mS-- в сообщении #652042 писал(а):
...а вот запись функции, в которой левая часть от $i$ не зависит, а правая зависит, никуда не годится. Кванторы или минимум-максимум выборки должны в правой части возникать, верно?

Вот этот момент не совсем понял: в левой части же у нас есть вектор $\vec z$, что подразумевает под собой $\vec z = \left \{z_1, z_2, ..., z_n \right \}$, т.е. те же $i$-е элементы.

Или Вы имеете в виду, что в моей записи получается, например $a \leq z_i$ относиться к какому-то одному $z_i$, а не ко всем? т.е. нужно переписать либо так: $a \leq \underset{1 \leq i \leq n}{\min z_i}$, либо $a \leq z_i; \; \forall i \in [1, n]$?

 
 
 
 Re: Совместная оценка методом максимального правдоподобия
Сообщение30.11.2012, 19:44 
Аватара пользователя
Именно так. Только без мягкого знака: относится.

 
 
 
 Re: Совместная оценка методом максимального правдоподобия
Сообщение01.12.2012, 03:46 
--mS-- в сообщении #652126 писал(а):
Только без мягкого знака: относится.

Да уж. Увлёкся математикой, а про великий и могучий забыл.
Благодарю за помощь :)

 
 
 [ Сообщений: 7 ] 


Powered by phpBB © 2000, 2002, 2005, 2007 phpBB Group