Метод максимального правдоподобия (мат.стат)

[nevskaya]

Здравствуйте. Помогите, пожалуйста, разобраться.
Есть первая модель Парето. Надо найти оценку максимального правдоподобия.
$f(x) = \left\{ \begin{array}{l} \frac {\alpha \theta ^{\alpha}} {x^{\alpha + 1}}, x > \theta \\ 0, x \leqslant \theta \end{array} \right.$
$\alpha > 0, \theta >0$
Составила функцию правдоподобия:
$L(x_1,...,x_n,\theta) = \left\{ \begin{array}{l} \frac {\alpha ^n \theta ^{\alpha n}} {(x_1 \cdot x_2 \cdot ... \cdot x_n)^{\alpha + 1}}, x_{(1)} > \theta \\ 0, .. \end{array} \right.$
Преподавательница сказала, что L надо найти такое, что функция при фиксированных $x_1, x_2, ..., x_n$ имела бы максимальное значение. И в роли L выступит степенная функция с показателем в степени большим единицы. Чтобы если возрастает \theta, то будет возрастать и функция.
Тогда т.к. первая порядковая статистика $X_{(1)}$ - фиксирована, $\theta$ можем увеличить до столкновения с $X_{(1)}$, тогда сама $X_{(1)}$ - и будет оценкой максимального правдоподобия.
Какую же мне взять тогда L? Вроде бы надо использовать функцию Хевисайда, но я не очень понимаю каким образом.
Просьба громко не смеяться, если написана чушь. Просто написала, как поняла.

[GAA]

Я так понимаю: надо найти методом максимального правдоподобия оцеку парметра $\theta$, при известном параметре $\alpha$. Функция правдоподобия это функция неизвестных параметров распределения.
$L(\theta; x_1,...,x_n, \alpha) = \left\{ \begin{array}{l} \frac {\alpha ^n \theta ^{\alpha n}} {(x_1 \cdot x_2 \cdot ... \cdot x_n)^{\alpha + 1}},\theta \le x_{(1)}, \\ 0, \quad \theta > x_{(1)}; \end{array} \right$
где $\theta > 0$. (до точки с запятой указаны «аргументы» функции, после точеи с запятой — фиксированные «параметры» функции правдоподобия. Максимизация выполняется по «аргументам»). Данная функция $\theta$ достигает максимума [как произведение положительной постоянной на степень $\theta ^{\alpha n}$ с положительным основанием и показателем ($\alpha n$) больше 0] при $\theta^* = x_{(1)}$.
Все. Больше ничего не надо.

Добавлено спустя 16 минут 13 секунд:

Т.е. я не вижу никакого смысла в использовании фукнкции Хевисайда, и никогда не видел её использования в подобных задачах.

[nevskaya]

В сборнике задач Ивченко её часто используют.

Добавлено спустя 1 час 16 минут 43 секунды:

GAA писал(а):

Данная функция $\theta$ достигает максимума [как произведение положительной постоянной на степень $\theta ^{\alpha n}$ с положительным основанием и показателем ($\alpha n$) больше 0] при $\theta^* = x_{(1)}$.

Вот эта фраза не понятна.. $\theta$ как произведение положительной постоянной на степень.

Добавлено спустя 50 минут 23 секунды:

И еще вопрос.. будет ли эта оценка несмещенной. У меня выходит, что она смещенная и асимптотически несмещенная..

[GAA]

1. Если «сборник задач Ивченко» — это Ивченко Г.И., Медведев Ю.И., Чистяков А.В. «Сборник задач по математической статистике», 1989, то подскажите, пожалуйста, в каких задачах, подобных приведенной Вами, её [фукнкцию Хевисайда] используют.

2. Изменил форматирование своего предыдущего сообщения. Когда я писал «Данная функция $\theta$» — я имел ввиду функцию правдоподобия. Итак:
1) При всех $\theta > 0$ данная функция правдоподобия неотрицательна и равна нулю при $\theta > x_{(1)}$;
2) При $0 < \theta \le x_{(1)}$ функция правдоподобия имееит вид $C \theta^\beta$, где $C = \frac {\alpha ^n} {(x_1 \cdot x_2 \cdot ... \cdot x_n)^{\alpha + 1}}$, $\beta = \alpha n$. $C$ — положительная постоянная, $\beta$ — положительная постоянная, следовательно, функция $C\theta^\beta$ достигает максимума в точке $\theta^*=x_{(1)}$.

3. Очевидно, оценка смещенная. Приведите, пожадуйста, своё докозательтство асимтотической несмещенности (тем более, что оно несложное).

[nevskaya]

GAA писал(а):

1. Если «сборник задач Ивченко» — это Ивченко Г.И., Медведев Ю.И., Чистяков А.В. «Сборник задач по математической статистике», 1989, то подскажите, пожалуйста, в каких задачах, подобных приведенной Вами, её [фукнкцию Хевисайда] используют.

В задачах 2.77, 2.78, 2.80 например, записывают функцию правдоподобия с использованием функции Хевисайда. Хотелось бы все равно понять, как она записывается..

GAA писал(а):

3. Очевидно, оценка смещенная. Приведите, пожадуйста, своё докозательтство асимтотической несмещенности (тем более, что оно несложное).

Мат ожидание $MX_{(1)}=\frac{\alpha n \theta}{\alpha n - 1} \neq \theta$. Значит, оценка смещенная.
И $MX_{(1)}=\frac{\alpha n \theta}{\alpha n - 1} \to \theta$ при $n \to \infty$. Значит оценка асимптотически не смещенная.
Можем улучшить оценку до несмещенности, взяв её: $\frac {\alpha n - 1}{\alpha n} X_{(1)}$

[GAA]

1. Задачи 2.78, 2.79, 2.80 посвящены достаточным статистикам, а не о.м.м.п. Даже, если абстрагироваться от этого и рассматривать эти задачи как таковые, то вынужден заметить, что факторизационная теорема излагается в [1] довольно небрежно (на то и книга для технических вузов).
Напомню, что в данной задаче нет никакого смысла в использовании функции Хевисайда.

2. Обозначим функцию единичного скачка (Heaviside step function) через $e(u)$:
$e(x) = \left\{\begin{array}{l} 0, \quad x < 0, \\ 1, \quad x \ge 0. \end{array} \right$
Из этого определения следует $e(x_{(1)}-\theta) = \left\{\begin{array}{l} 0, \quad \theta > x_{(1)}, \\ 1, \quad \theta \le x_{(1)}. \end{array} \right$
Ответ: $L(\theta) = e(x_{(1)}-\theta) \frac {\alpha ^n \theta ^{\alpha n}} {(x_1 \cdot x_2 \cdot ... \cdot x_n)^{\alpha + 1}}$.

ref
[1] Ивченко Г. И., Медведев Ю. И. Математическая статистика. — М.: Высш. шк., 1984.

Добавлено на следующий день. Автор темы уведомлен о добавлении ЛС

3. Математическое ожидание оценки совпадает с Вашим.

Примечание.
При построении функции правдоподобия я использовал следующее определение плотности
$f(x) = \left\{ \begin{array}{l} \frac {\alpha \theta ^{\alpha}} {x^{\alpha + 1}}, \quad x \ge \theta; \\ 0, \quad x < \theta. \end{array} \right$
Такое определение принято, например, в указанном выше сборнике задач [см. 5.13], но не является общепринятым [см. статью A.V. Prokhorov в Encyclopaedia of Mathematics (www страница редакции 2001г)]. Поначалу, я подумал, что в определении плотности, указанном Вами в открывающем тему сообщении, допущена опечатка. Если это не так, то выражение для функции правдоподобия, конечно, следует исправить.

[nevskaya]

А в чем разница?
Для функции плотности
$f(x,\theta)=\left\{ \begin{array}{l} \frac {\alpha}{\theta} \cdot (\frac {\theta}{x})^{\alpha + 1}, x>\theta,\\ 0, x \leqslant \theta, \end{array} \right. $
функция правдоподобия будет
$L=\left\{ \begin{array}{l} (\frac {\alpha}{\theta})^n \cdot \frac {\theta^{n(\alpha +1)}}{(x_1 \cdot ... \cdot x_n)^{\alpha + 1}}, x_{(1)}>\theta,\\ 0, x \leqslant \theta, \end{array} \right. $
Если сократить $\theta$ в функции правдоподобия получится то, что мы и рассматривали.

[GAA]

В знаках неравентв разница.

Добавлено спустя 2 минуты 19 секунд:

Это осложнит переход к функции единичного скачка.

[nevskaya]

А. Понятно. Надеюсь рассуждения в методе макс. правдоподобия от этого не пострадают?)

[GAA]

Да, рассуждения не пострадают. В методе максимального правдоподобия говорится о точной верхней грани функции правдоподобия, а достижимость этой функции своей точной верхней грани — не требуется.

[nevskaya]

GAA, большое спасибо за помощь!