2014 dxdy logo

Научный форум dxdy

Математика, Физика, Computer Science, Machine Learning, LaTeX, Механика и Техника, Химия,
Биология и Медицина, Экономика и Финансовая Математика, Гуманитарные науки


Правила форума


Посмотреть правила форума



Начать новую тему Ответить на тему На страницу Пред.  1, 2
 
 Re: функция правдоподобия и ошибка
Сообщение01.10.2018, 16:11 
Заслуженный участник


10/01/16
2315
AndreyL
Ну, зато суммарная ошибка для нашего критерия - наименьшая...Да и вероятность - при таком значении исхода эксперимента - больше.
Ну что же делать: критерии всегда врут (точнее, не могут ничего гарантировать) - такова специфика статистики, да и всей теории вероятности... Числа, и рекомендации, которые она дает - расчитываются для массовых экспериментов. Вот, если б такое решение пришлось принимать сто тысяч раз, в точно таких ситуациях - вот тогда Вы б увидели, что предложенный критерий приносит выгоду. А для единичного - ну, что получится, то и есть.
Кстати, тот Ваш пример со скважинами - не очень хорошо вписывается в рассматриваемую модель: получается, нефть - либо тут, либо там, и только так... Как то это не совсем по жизни.

 Профиль  
                  
 
 Re: функция правдоподобия и ошибка
Сообщение01.10.2018, 17:52 


27/10/09
600
Да! Суммарная ошибка меньше для всего критерия, но как объяснить высокому начальству (или начинающему специалисту), почему выбирается решение с низкой вероятностью, а решение с высокой вероятностью отвергается? Тут получается конфликт двух критериев, и нужно корректно, желательно (но не обязательно) на пальцах обосновать выбор критерия.
Про нефть я мало чего знаю, а вот кимберлитовые трубки довольно небольшие по площади, и далеко не все их них алмазоносные. Вот и вопрос - какую бурить будем? На вторую могут денег не дать, если в первой будет пусто.

 Профиль  
                  
 
 Re: функция правдоподобия и ошибка
Сообщение01.10.2018, 21:46 
Заслуженный участник


10/01/16
2315
AndreyL
Вот пусть у нас есть две монеты: одна выпадает орлом с вероятностью 0.01, а другая - с вероятностью 0.000001.
Бросили монету; выпал орел. Мы грим: это - первая монета! А начальство грит - редко ж орел выпадает...

 Профиль  
                  
 
 Re: функция правдоподобия и ошибка
Сообщение02.10.2018, 00:40 
Заслуженный участник


10/01/16
2315
AndreyL в сообщении #1343027 писал(а):
Вот и вопрос - какую бурить будем? На вторую могут денег не дать, если в первой будет пусто

А это - уже совсем другая задача. Но интересная. Вот только надо бы ее формализовать - учитывая, скажем, экспертные оценки по априорным вероятностям гипотез, плате -штрафам за ошибки, и - можно решать. По Байесу, или исчо как...

 Профиль  
                  
 
 Re: функция правдоподобия и ошибка
Сообщение02.10.2018, 05:13 


27/10/09
600
DeBill в сообщении #1343124 писал(а):
А это - уже совсем другая задача. Но интересная. Вот только надо бы ее формализовать - учитывая, скажем, экспертные оценки по априорным вероятностям гипотез, плате -штрафам за ошибки, и - можно решать. По Байесу, или исчо как...
Очень просто: экспертные оценки по вероятностям гипотез - обе гипотезы имеют одинаковую априорную вероятность, плата за ошибки тоже одинаковая. Но, если я не ошибаюсь, по Байесу опять окажется просто отношение плотностей.
DeBill в сообщении #1343096 писал(а):
AndreyL
Вот пусть у нас есть две монеты: одна выпадает орлом с вероятностью 0.01, а другая - с вероятностью 0.000001.
Бросили монету; выпал орел. Мы грим: это - первая монета! А начальство грит - редко ж орел выпадает...
Вероятность выпадения орла второй монеты меньше, чем для первой - все нормально, никаких проблем, сравниваем вероятности, выбираем ту, которая больше, не важно, что обе маленькие. У меня в задаче наоборот, именно здесь проблема.

 Профиль  
                  
 
 Re: функция правдоподобия и ошибка
Сообщение02.10.2018, 15:05 
Заслуженный участник


27/04/09
28128
AndreyL
В практических задачах обычно важны (вы и сами выше пишете об этом), но и кое-как оцениваемы прибыль (когда угадали) и убытки (когда не угадали), ну вот и включите их в критерий: выбирать то, от чего ожидается большая разность первого или второго (или, например, пессимистичнее — меньший убыток). Заодно можно включить туда, дадут денег на вторую или нет.

Довольно очевидная вещь, и так делают. :-)

 Профиль  
                  
 
 Re: функция правдоподобия и ошибка
Сообщение02.10.2018, 15:48 


27/10/09
600
Хорошо! Если угадали, то Государственная Премия (5 млн руб, по-моему). Если не угадали - ничего. Но дело в том, что эти пять миллионов стоят и в числителе, и в знаменателе, поскольку без разницы, в какой конкретно трубке угадаем (если угадаем, а хотелось бы). Априорные вероятности одинаковые, по 50%. Получается Байесовский критерий $Bc=\frac{f_A \left(x \right) \cdot 5 \cdot 10^{6} \cdot 0.5}{f_B \left(x \right) \cdot 5 \cdot 10^{6} \cdot 0.5}=\frac{f_A \left(x \right)}{f_B \left(x \right)}$, где $f_A \left(x \right)$ и $f_B \left(x \right)$ - плотности распределений, соответствующих гипотезам $A$ и $B$ в точке $x=18$. Или я ошибаюсь?

 Профиль  
                  
 
 Re: функция правдоподобия и ошибка
Сообщение02.10.2018, 16:18 
Заслуженный участник


10/01/16
2315
Кажется, я был невнимателен, и пропустил имеющуюся путаницу...А она, вробе бы, есть.
AndreyL в сообщении #1342989 писал(а):
у которого больше вероятность ошибки (точнее меньше вероятность ошибки при его отвержении). Как это корректно объяснить?

Так о каких вероятностях идет речь? это:
а) вероятность ошибки первого (второго) рода
б) вероятность (в условиях каждой из гипотез) выпадения (реализации) наблюдаемого значения (ну, она, конечно, нулевая - для непрерывных распределений. Надо здесь это понимать как "плотность распределения вер-тей в заданной (полученной в рез-те эксперимента) точке")
в) вер-ть ошибки первого (второго) рода при принятии решения по нашему критерию, при уже известном результате эксперимента.
Вот, и о чем же идет речь?
У меня подозрение, что происходит путаница всех трех....
Обратите внимание: для а) вовсе не надо знать рез-т эксперимента: это - характеристики критерия.
для в) : нет тут никаких двух ошибок: критерий сразу говорит, что надо принять. Вот об этой одной ошибке и надо говорить. Для б): если критерий строился из условия минимизации суммарной ошибки, и гипотезы равноправны, то этот критерий и есть простой критерий здравого смысла (что вероятнее - то и принимаем).
И - еще раз: вер-ти ошибок первого (второго) рода - ну никак не связаны с рез-том эксперимента, и не зависят они от него...

-- 02.10.2018, 18:24 --

AndreyL в сообщении #1343231 писал(а):
Или я ошибаюсь?

Да, все верно. И по критериям, и по Байесу - одно и тоже выходит. И в чем проблема?

 Профиль  
                  
 
 Re: функция правдоподобия и ошибка
Сообщение02.10.2018, 17:59 


27/10/09
600
Про вариант в) не понял, почему там нет двух ошибок? Там сохраняются обе ошибки, и первого и второго рода, в зависимости от того, какую гипотезу мы примем, та и реализуется. Но в этом случае, если я Вас правильно понял, гипотезу нужно принимать на основании этих ошибок. Ранее предлагался вариант - у какой гипотезы ошибка при отвержении больше, ту гипотезу и принять.
Вариант а) можно не рассматривать, поскольку он является перефразированным вариантом в) - уровень значимости задаем сами, давайте зададим такой, который нам показывает имеющееся значение $x$.
Но факт остается фактом, в варианте б) принимается гипотеза $A$, в варианте в) принимается гипотеза $B$.
По-моему здесь рассогласование двух теорий: проверки гипотез с одной стороны и принятия решения (дискриминантный анализ, Байесовская стратегия и т.п.) с другой. Есть подозрение, что у Неймана с Пирсоном век назад эти теории были согласованы.

 Профиль  
                  
 
 Re: функция правдоподобия и ошибка
Сообщение03.10.2018, 22:38 


27/10/09
600
А не может получиться так, что вероятности ошибок первого и второго рода в интегральной форме справедливы только для случая сложной альтернативной гипотезы? Ведь формально, вероятность ошибки первого рода есть вероятность того, что случайная величина, соответствующая гипотезе $A$ примет значение больше $x$, а вероятность ошибки второго рода есть вероятность того, что случайная величина, соответствующая гипотезе $B$ примет значение меньше $x$. Если перейти к дискретным распределениям, то достаточно сравнить вероятности появления именно $x$ для одной и для другой гипотезы, а вероятности появления всех остальных возможных значений нас не должны интересовать. Или я не прав?

 Профиль  
                  
 
 Re: функция правдоподобия и ошибка
Сообщение04.10.2018, 18:21 
Заслуженный участник


10/01/16
2315
AndreyL в сообщении #1343509 писал(а):
Или я не прав?

Да. Однако относится это не только к последнему вопросу, а вообще....
AndreyL в сообщении #1343509 писал(а):
формально, вероятность ошибки первого рода есть вероятность того, что случайная величина, соответствующая гипотезе $A$ примет значение больше $x$, а вероятность ошибки второго рода есть вероятность того, что случайная величина, соответствующая гипотезе $B$ примет значение меньше $x$.

Нет, нет, и еще три раза нет.
Вообще, я еще пару постов назад заподозрил, что мы говорим на разных языках (называя разные вещи неразными словами).
Те три вопроса (один из которых был откровенно дурной) это частично прояснили, да.
AndreyL в сообщении #1343281 писал(а):
Есть подозрение, что у Неймана с Пирсоном век назад эти теории были согласованы.

А не надо называть апостериорные вероятности гипотез ошибками первого-второго рода - и не будет рассогласований...
Ну, давайте еще немного поговорим - но согласум терминологию.
Итак, у Вас есть две АЛЬТЕРНАТИВНЫЕ гипотезы $A$ и $B$, известны их вероятности (половинки), и распределения наблюдаемой сл. величины в условиях каждой из гипотез. Произведен эксперимент , в результате которого сл. величина приняла значение $x$ (обозначим это событие $X$). По формулам Байеса можно расчитать условные вероятности $P(A|X)$ и $P(B|X)$...
Можно теперь сформулировать критерий (напр., принимается та гипотеза, для которой эта вероятность выше. Для непрерывных: вместо вероятностей, следует рассматривать плотности).
Теперь можно поставить два вопроса:
1) Каковы ошибки первого-второго рода для этого критерия (обратите внимание: для ответа не надо знать значение $x$: это - характеристика собственно критерия; для хорошего критерия обе ошибки малы)
2) Для заданного $x$ - какую ошибку мы допустим, выбрав гипотезу $A$? $B$? (Если критерий уже выбран, то, собственно, произвола никакого у нас и нет, между прочим). Это - те две условных вероятности. Обратите внимание: эти две вероятности всегда в сумме дают 1.
Так что же мы хотим?

 Профиль  
                  
Показать сообщения за:  Поле сортировки  
Начать новую тему Ответить на тему  [ Сообщений: 26 ]  На страницу Пред.  1, 2

Модераторы: Модераторы Математики, Супермодераторы



Кто сейчас на конференции

Сейчас этот форум просматривают: Mikhail_K


Вы не можете начинать темы
Вы не можете отвечать на сообщения
Вы не можете редактировать свои сообщения
Вы не можете удалять свои сообщения
Вы не можете добавлять вложения

Найти:
Powered by phpBB © 2000, 2002, 2005, 2007 phpBB Group