2014 dxdy logo

Научный форум dxdy

Математика, Физика, Computer Science, Machine Learning, LaTeX, Механика и Техника, Химия,
Биология и Медицина, Экономика и Финансовая Математика, Гуманитарные науки


Правила форума


Посмотреть правила форума



Начать новую тему Ответить на тему На страницу Пред.  1, 2
 
 Re: функция правдоподобия и ошибка
Сообщение01.10.2018, 16:11 
Заслуженный участник


10/01/16
2315
AndreyL
Ну, зато суммарная ошибка для нашего критерия - наименьшая...Да и вероятность - при таком значении исхода эксперимента - больше.
Ну что же делать: критерии всегда врут (точнее, не могут ничего гарантировать) - такова специфика статистики, да и всей теории вероятности... Числа, и рекомендации, которые она дает - расчитываются для массовых экспериментов. Вот, если б такое решение пришлось принимать сто тысяч раз, в точно таких ситуациях - вот тогда Вы б увидели, что предложенный критерий приносит выгоду. А для единичного - ну, что получится, то и есть.
Кстати, тот Ваш пример со скважинами - не очень хорошо вписывается в рассматриваемую модель: получается, нефть - либо тут, либо там, и только так... Как то это не совсем по жизни.

 Профиль  
                  
 
 Re: функция правдоподобия и ошибка
Сообщение01.10.2018, 17:52 


27/10/09
600
Да! Суммарная ошибка меньше для всего критерия, но как объяснить высокому начальству (или начинающему специалисту), почему выбирается решение с низкой вероятностью, а решение с высокой вероятностью отвергается? Тут получается конфликт двух критериев, и нужно корректно, желательно (но не обязательно) на пальцах обосновать выбор критерия.
Про нефть я мало чего знаю, а вот кимберлитовые трубки довольно небольшие по площади, и далеко не все их них алмазоносные. Вот и вопрос - какую бурить будем? На вторую могут денег не дать, если в первой будет пусто.

 Профиль  
                  
 
 Re: функция правдоподобия и ошибка
Сообщение01.10.2018, 21:46 
Заслуженный участник


10/01/16
2315
AndreyL
Вот пусть у нас есть две монеты: одна выпадает орлом с вероятностью 0.01, а другая - с вероятностью 0.000001.
Бросили монету; выпал орел. Мы грим: это - первая монета! А начальство грит - редко ж орел выпадает...

 Профиль  
                  
 
 Re: функция правдоподобия и ошибка
Сообщение02.10.2018, 00:40 
Заслуженный участник


10/01/16
2315
AndreyL в сообщении #1343027 писал(а):
Вот и вопрос - какую бурить будем? На вторую могут денег не дать, если в первой будет пусто

А это - уже совсем другая задача. Но интересная. Вот только надо бы ее формализовать - учитывая, скажем, экспертные оценки по априорным вероятностям гипотез, плате -штрафам за ошибки, и - можно решать. По Байесу, или исчо как...

 Профиль  
                  
 
 Re: функция правдоподобия и ошибка
Сообщение02.10.2018, 05:13 


27/10/09
600
DeBill в сообщении #1343124 писал(а):
А это - уже совсем другая задача. Но интересная. Вот только надо бы ее формализовать - учитывая, скажем, экспертные оценки по априорным вероятностям гипотез, плате -штрафам за ошибки, и - можно решать. По Байесу, или исчо как...
Очень просто: экспертные оценки по вероятностям гипотез - обе гипотезы имеют одинаковую априорную вероятность, плата за ошибки тоже одинаковая. Но, если я не ошибаюсь, по Байесу опять окажется просто отношение плотностей.
DeBill в сообщении #1343096 писал(а):
AndreyL
Вот пусть у нас есть две монеты: одна выпадает орлом с вероятностью 0.01, а другая - с вероятностью 0.000001.
Бросили монету; выпал орел. Мы грим: это - первая монета! А начальство грит - редко ж орел выпадает...
Вероятность выпадения орла второй монеты меньше, чем для первой - все нормально, никаких проблем, сравниваем вероятности, выбираем ту, которая больше, не важно, что обе маленькие. У меня в задаче наоборот, именно здесь проблема.

 Профиль  
                  
 
 Re: функция правдоподобия и ошибка
Сообщение02.10.2018, 15:05 
Заслуженный участник


27/04/09
28128
AndreyL
В практических задачах обычно важны (вы и сами выше пишете об этом), но и кое-как оцениваемы прибыль (когда угадали) и убытки (когда не угадали), ну вот и включите их в критерий: выбирать то, от чего ожидается большая разность первого или второго (или, например, пессимистичнее — меньший убыток). Заодно можно включить туда, дадут денег на вторую или нет.

Довольно очевидная вещь, и так делают. :-)

 Профиль  
                  
 
 Re: функция правдоподобия и ошибка
Сообщение02.10.2018, 15:48 


27/10/09
600
Хорошо! Если угадали, то Государственная Премия (5 млн руб, по-моему). Если не угадали - ничего. Но дело в том, что эти пять миллионов стоят и в числителе, и в знаменателе, поскольку без разницы, в какой конкретно трубке угадаем (если угадаем, а хотелось бы). Априорные вероятности одинаковые, по 50%. Получается Байесовский критерий $Bc=\frac{f_A \left(x \right) \cdot 5 \cdot 10^{6} \cdot 0.5}{f_B \left(x \right) \cdot 5 \cdot 10^{6} \cdot 0.5}=\frac{f_A \left(x \right)}{f_B \left(x \right)}$, где $f_A \left(x \right)$ и $f_B \left(x \right)$ - плотности распределений, соответствующих гипотезам $A$ и $B$ в точке $x=18$. Или я ошибаюсь?

 Профиль  
                  
 
 Re: функция правдоподобия и ошибка
Сообщение02.10.2018, 16:18 
Заслуженный участник


10/01/16
2315
Кажется, я был невнимателен, и пропустил имеющуюся путаницу...А она, вробе бы, есть.
AndreyL в сообщении #1342989 писал(а):
у которого больше вероятность ошибки (точнее меньше вероятность ошибки при его отвержении). Как это корректно объяснить?

Так о каких вероятностях идет речь? это:
а) вероятность ошибки первого (второго) рода
б) вероятность (в условиях каждой из гипотез) выпадения (реализации) наблюдаемого значения (ну, она, конечно, нулевая - для непрерывных распределений. Надо здесь это понимать как "плотность распределения вер-тей в заданной (полученной в рез-те эксперимента) точке")
в) вер-ть ошибки первого (второго) рода при принятии решения по нашему критерию, при уже известном результате эксперимента.
Вот, и о чем же идет речь?
У меня подозрение, что происходит путаница всех трех....
Обратите внимание: для а) вовсе не надо знать рез-т эксперимента: это - характеристики критерия.
для в) : нет тут никаких двух ошибок: критерий сразу говорит, что надо принять. Вот об этой одной ошибке и надо говорить. Для б): если критерий строился из условия минимизации суммарной ошибки, и гипотезы равноправны, то этот критерий и есть простой критерий здравого смысла (что вероятнее - то и принимаем).
И - еще раз: вер-ти ошибок первого (второго) рода - ну никак не связаны с рез-том эксперимента, и не зависят они от него...

-- 02.10.2018, 18:24 --

AndreyL в сообщении #1343231 писал(а):
Или я ошибаюсь?

Да, все верно. И по критериям, и по Байесу - одно и тоже выходит. И в чем проблема?

 Профиль  
                  
 
 Re: функция правдоподобия и ошибка
Сообщение02.10.2018, 17:59 


27/10/09
600
Про вариант в) не понял, почему там нет двух ошибок? Там сохраняются обе ошибки, и первого и второго рода, в зависимости от того, какую гипотезу мы примем, та и реализуется. Но в этом случае, если я Вас правильно понял, гипотезу нужно принимать на основании этих ошибок. Ранее предлагался вариант - у какой гипотезы ошибка при отвержении больше, ту гипотезу и принять.
Вариант а) можно не рассматривать, поскольку он является перефразированным вариантом в) - уровень значимости задаем сами, давайте зададим такой, который нам показывает имеющееся значение $x$.
Но факт остается фактом, в варианте б) принимается гипотеза $A$, в варианте в) принимается гипотеза $B$.
По-моему здесь рассогласование двух теорий: проверки гипотез с одной стороны и принятия решения (дискриминантный анализ, Байесовская стратегия и т.п.) с другой. Есть подозрение, что у Неймана с Пирсоном век назад эти теории были согласованы.

 Профиль  
                  
 
 Re: функция правдоподобия и ошибка
Сообщение03.10.2018, 22:38 


27/10/09
600
А не может получиться так, что вероятности ошибок первого и второго рода в интегральной форме справедливы только для случая сложной альтернативной гипотезы? Ведь формально, вероятность ошибки первого рода есть вероятность того, что случайная величина, соответствующая гипотезе $A$ примет значение больше $x$, а вероятность ошибки второго рода есть вероятность того, что случайная величина, соответствующая гипотезе $B$ примет значение меньше $x$. Если перейти к дискретным распределениям, то достаточно сравнить вероятности появления именно $x$ для одной и для другой гипотезы, а вероятности появления всех остальных возможных значений нас не должны интересовать. Или я не прав?

 Профиль  
                  
 
 Re: функция правдоподобия и ошибка
Сообщение04.10.2018, 18:21 
Заслуженный участник


10/01/16
2315
AndreyL в сообщении #1343509 писал(а):
Или я не прав?

Да. Однако относится это не только к последнему вопросу, а вообще....
AndreyL в сообщении #1343509 писал(а):
формально, вероятность ошибки первого рода есть вероятность того, что случайная величина, соответствующая гипотезе $A$ примет значение больше $x$, а вероятность ошибки второго рода есть вероятность того, что случайная величина, соответствующая гипотезе $B$ примет значение меньше $x$.

Нет, нет, и еще три раза нет.
Вообще, я еще пару постов назад заподозрил, что мы говорим на разных языках (называя разные вещи неразными словами).
Те три вопроса (один из которых был откровенно дурной) это частично прояснили, да.
AndreyL в сообщении #1343281 писал(а):
Есть подозрение, что у Неймана с Пирсоном век назад эти теории были согласованы.

А не надо называть апостериорные вероятности гипотез ошибками первого-второго рода - и не будет рассогласований...
Ну, давайте еще немного поговорим - но согласум терминологию.
Итак, у Вас есть две АЛЬТЕРНАТИВНЫЕ гипотезы $A$ и $B$, известны их вероятности (половинки), и распределения наблюдаемой сл. величины в условиях каждой из гипотез. Произведен эксперимент , в результате которого сл. величина приняла значение $x$ (обозначим это событие $X$). По формулам Байеса можно расчитать условные вероятности $P(A|X)$ и $P(B|X)$...
Можно теперь сформулировать критерий (напр., принимается та гипотеза, для которой эта вероятность выше. Для непрерывных: вместо вероятностей, следует рассматривать плотности).
Теперь можно поставить два вопроса:
1) Каковы ошибки первого-второго рода для этого критерия (обратите внимание: для ответа не надо знать значение $x$: это - характеристика собственно критерия; для хорошего критерия обе ошибки малы)
2) Для заданного $x$ - какую ошибку мы допустим, выбрав гипотезу $A$? $B$? (Если критерий уже выбран, то, собственно, произвола никакого у нас и нет, между прочим). Это - те две условных вероятности. Обратите внимание: эти две вероятности всегда в сумме дают 1.
Так что же мы хотим?

 Профиль  
                  
Показать сообщения за:  Поле сортировки  
Начать новую тему Ответить на тему  [ Сообщений: 26 ]  На страницу Пред.  1, 2

Модераторы: Модераторы Математики, Супермодераторы



Кто сейчас на конференции

Сейчас этот форум просматривают: нет зарегистрированных пользователей


Вы не можете начинать темы
Вы не можете отвечать на сообщения
Вы не можете редактировать свои сообщения
Вы не можете удалять свои сообщения
Вы не можете добавлять вложения

Найти:
Powered by phpBB © 2000, 2002, 2005, 2007 phpBB Group