Классическая и частотная вероятность

[-_-]

Я не понимаю кое-что из основ прикладной статистики и надеюсь, что здесь мне помогут понять.

Существует несколько интерпретаций термина «вероятность». У меня проблемы с пониманием того, какое отношение друг к другу имеют две из них — классическая и частотная. Если вкратце, то мне кажется, что это две совершенно разные меры, а подробнее изложу далее.

Рассмотрим два события, вероятности которых рассчитаны разными способами:

• Событие A: вероятность случайно вытащить даму пик из колоды в 32 карты. В классической интерпретации эта вероятность равна $\tfrac{1}{32} = 0,03125$.
  
• Событие B: вероятность того, что в ближайшем помёте свиноматки будет ровно 8 поросят. Допустим, в нашем колхозе свиноматки этой породы поросились уже 1000 раз, и 30 раз приносили ровно по 8 детёнышей. (Также допустим, что распределение этих 30 событий среди всей тысячи опоросов удовлетворяет всем разумным критериям случайности.) Тогда получается, что частотная вероятность целевого события равна 0,03.

Правда ли теперь, что вероятность события A больше, чем вероятность события B? Формально $0,03125 > 0,03$, но проблема в том, что я не вижу оснований, почему эти величины вообще можно сравнивать между собой. И та, и другая «вероятность», насколько я могу судить, соответствуют интуитивным представлениям о «мере неопределённости», но этого мне не кажется достаточным, чтобы считать их принадлежащими к одному «типу данных» и сравнивать друг с другом.

Существует ли полноценное научное обоснование того, что вероятности событий A и B в моём примере — это меры одной и той же величины? Или это в самом деле две разные вещи, которые почему-то называются одним и тем же словом «вероятность»?

[mihaild]

В случае со статистикой (а выводами из наблюдения за реализацией случайных величин занимается именно она) в основе лежит обычное вероятностное пространство, но дальше всё чуть сложнее.
Мы считаем, что у нас есть неизвестная случайная величина, выбранная из какого-то множества (неизвестно как в фреквентистской статистике, по какому-то распределению - в баейсовской).
Например мы можем считать, что число поросят распределено по распределению Пуассона, или биномиально, или еще как-то. Дальше можно оценивать параметры и характеристики этого распределения, глядя на выборку.

Сравнивать величины из вашего примера между собой - это примерно то же самое, что сравнивать $2 + 2$ и "число яблок вон в том ящике". В нашей модели есть какое-то "истинное" число яблок (или распределение размера помёта), мы его не знаем, но можем насколько-то достоверно выяснять какие-то характеристики.

[Mikhail_K]

-_- в сообщении #1407517 писал(а):

Допустим, в нашем колхозе свиноматки этой породы поросились уже 1000 раз, и 30 раз приносили ровно по 8 детёнышей. (Также допустим, что распределение этих 30 событий среди всей тысячи опоросов удовлетворяет всем разумным критериям случайности.) Тогда получается, что частотная вероятность целевого события равна 0,03.

А что такое частотная вероятность? Приведите определение.

[Евгений Машеров]

B это не вероятность, это частость. Которая может быть оценкой вероятности. При определённых условиях.
Частотное определение вероятности развивал фон Мизес.

Цитата:

1. О вероятности можно говорить только в том случае, если налицо имеется твердо определенный и точно отграниченный коллектив.
2.Коллектив есть массовое или повторное явление, удовлетворяющее следующим двум требованиям: относительные частоты отдельных признаков должны обладать определенными предельными значениями, и эти последние должны оставаться неизменными, если отобрать часть элементов совокупности произвольным выбором нумеров.
3.Выполнение последнего требования мы называем также принципом иррегулярности или принципом невозможности системы игры.
4. Нечувствительное к выбору нумеров предельное значение относительной частоты, с которой появляется определенный признак, мы называем "вероятностью" появления этого признака в пределах рассматриваемого коллектива

[-_-]

Mikhail_K в сообщении #1407521 писал(а):

А что такое частотная вероятность? Приведите определение.

Я назвал частотной вероятностью количество испытаний с наблюдением события B, делённое на общее количество испытаний. Если это расходится с тем, что вы понимаете под частотной вероятностью,— значит, я просто неверно использовал термин, за что прошу прощения.

Ваш комментарий помог мне составить альтернативную формулировку проблемы, где, как мне кажется, негде спотыкаться в терминах:

•

Мне предлагают вложить деньги в одну из двух авантюр. В каждой авантюре возможны два исхода: либо я полностью теряю вложенные деньги, либо возвращаю их в двойном размере.

Авантюра A: сыграть в игру, где я случайным образом тяну карту из колоды. Если это дама пик, то я возвращаю деньги в двойном размере, если любая другая карта — ничего не получаю.

Авантюра B: на тотализаторе поставить деньги на то, что ближайшая свиноматка принесёт ровно 8 поросят. Тотализатор устроен так, что если это случится, я верну деньги в двойном размере, если нет, то не верну ничего. Известно, что до сих пор в колхозе было 1000 опоросов, из которых 30 раз было именно по 8 поросят.

Мой тезис в том, что «надо выбирать авантюру A, потому что вероятность успеха больше, чем в авантюре B» — это некорректное рассуждение, поскольку «вероятности» в обеих случаях вычисляются по-разному, и их сравнение не имеет содержательного смысла. Я прав?

[Connector]

(Оффтоп)

А по-моему, вопрос, который Вы поставили, отчасти связан со следующим, более общим: корректно ли сравнивать значения величины, полученные при помощи разных способов измерения? Это некорректно хотя бы потому, что у каждого способа своя погрешность, и если не сопоставить эти погрешности, можно прийти к неправильным заключениям.
В. Феллер:

Цитата:

Вероятности событий — числа той же природы, что и расстояния в геометрии или массы в теоретической механике. ... В тех сравнительно немногих случаях, когда требуется знать численные значения вероятностей некоторых событий, вычислительные приёмы столь же разнообразны, сколь и методы определения расстояний.

UpD. А закон больших чисел и позволяет оценить погрешность для одного из методов, так?

[warlock66613]

По-моему закон больших чисел как раз даёт ответ на поставленный вопрос.

[-_-]

warlock66613 в сообщении #1407541 писал(а):

По-моему закон больших чисел как раз даёт ответ на поставленный вопрос.

Насколько я могу судить, закон больших чисел относится только к событию A: он говорит о том, что если проводить практические эксперименты по случайному вытаскиванию карт из колоды, то наблюдаемая частота вытаскивания дамы пик будет стремиться к теоретической вероятности этого события (1/32) при увеличении количества экспериментов.

Однако я не вижу, чтобы закон больших чисел говорил хоть что-нибудь о событии B (поскольку там нет никакой теоретической вероятности) и тем более о сопоставимости «вероятностей» событий A и B.

[Connector]

-_- в сообщении #1407543 писал(а):

Насколько я могу судить, закон больших чисел относится только к событию A: он говорит о том, что если проводить практические эксперименты по случайному вытаскиванию карт из колоды, то наблюдаемая частота вытаскивания дамы пик будет стремиться к теоретической вероятности этого события (1/32) при увеличении количества экспериментов.

Так Вы же определяете вероятность события $A$ как классическую вероятность, а не как статистическую (то есть нам дана как раз «теоретическая» вероятность и только она).

-_- в сообщении #1407543 писал(а):

Однако я не вижу, чтобы закон больших чисел говорил хоть что-нибудь о событии B (поскольку там нет никакой теоретической вероятности) и тем более о сопоставимости «вероятностей» событий A и B.

Потом, для события $B$ тоже существует (может быть вычислена) теоретическая вероятность (вероятность этого события, наверное, можно теоретически оценить, построив какую-нибудь биологическую модель; хотя вероятность существует даже если остаётся неизвестной), только мы не строим никаких предварительных (априорных, доэкспериментальных) предположений по этому поводу. Но это же не значит, что закон больших чисел здесь неприменим?

[Евгений Машеров]

Сугубое ИМХО (и надеюсь, что более меня компетентные в ТВ меня поправят):
Вероятность есть мера уверенности в наступлении события. Но это "субъективная вероятность", которая зависит от субъекта, и другие могут её не принимать. Поэтому пытаются найти объективную величину, исходя из которой можно выработать степень уверенности, которую могут принять разные люди. Даже если такая величина существует (что не гарантировано), она непосредственно не наблюдаема. Её можно лишь оценивать косвенно с некоторой точностью. При этом оценка будет опираться на некоторые априорные допущения и на некий экспериментальный набор фактов. В зависимости от этих допущений и доступных фактов могут получаться разные оценки, но это всё попытки оценить одну и ту же величину. Если эта величина, "истинная вероятность", оценена разными способами, это ещё не значит, что эти оценки несравнимы. Если действительно выполняются априорные условия для этих способов - мы вправе сопоставлять эти оценки. Правда, если способы одинаковы - мы избавлены от одного источника ошибок, либо условия выполняются в обоих вариантах, либо одновременно не выполняются. А если различны - один способ может работать, а второй по невыполнению условий не работает.
Классическое определение вероятности - способ оценивать вероятности сложных событий, зная вероятности частных при специальном условии, что частные исходы равновероятны. Статистическое (по Мизесу) предполагает другое априорное условие - разная схема организации статистического отбора должна давать одинаковый результат. Но в любом случае у нас есть некие непроверяемые условия, которые мы вынуждены принимать, как данное (да, на всякий случай уточню, что "классический" здесь употреблено не в литературоведческом, а скорее в физическом смысле, то есть не "недостижимый идеал, наилучший образец", а "устаревший, но ещё работающий в частных, однако практически важных случаях").
И сравнивать вероятности, оцененные разными способами, приходится.

[-_-]

Connector в сообщении #1407536 писал(а):

А по-моему, вопрос, который Вы поставили, отчасти связан со следующим, более общим: корректно ли сравнивать значения величины, полученные при помощи разных способов измерения?

Мне всё-таки кажется, что суть в другом. Одно дело, если мы измеряем, например, длину двумя способами: рулеткой и каким-нибудь эхолотом. И другое дело, если мы измеряем длину рулеткой и температуру градусником. На мой взгляд, история с «вероятностями» похожа на второй случай. У нас есть отдельно рулетка (методика расчёта «классической» вероятности), есть отдельно термометр (методика расчёта частотности из практических наблюдений), и есть ещё раз отдельно допущение о том, что оба этих прибора якобы дают оценку одной и той же величины. Вот это допущение и вызывает у меня сомнения.

Connector в сообщении #1407546 писал(а):

Потом, для события $B$ тоже существует (может быть вычислена) теоретическая вероятность (вероятность этого события, наверное, можно теоретически оценить, построив какую-нибудь биологическую модель; хотя вероятность существует даже если остаётся неизвестной), только мы не строим никаких предварительных (априорных, доэкспериментальных) предположений по этому поводу. Но это же не значит, что закон больших чисел здесь неприменим?

Здесь мне неочевидны тезисы о том, что а) теоретическая вероятность в этой ситуации вообще существует; б) в принципе можно построить упомянутую биологическую модель.

Евгений Машеров в сообщении #1407573 писал(а):

В зависимости от этих допущений и доступных фактов могут получаться разные оценки, но это всё попытки оценить одну и ту же величину.

Вот я и не понимаю, из чего следует, что оценивается одна и та же величина.

[george66]

Вероятность - это мера. Её можно оценить заранее из соображений симметрии. Бросаем правильный кубик - вероятность выпадения каждой грани равна одной шестой. Притом, если бросать каждый раз идеально одинаково (на липкий стол, чтобы кубик не прыгал), то и выпадать будет одна и та же грань. Почему частота во многих случаях стремится к вероятности? На эту тему есть обширная наука "эргодическая теория". Реально, мы бросаем кубик не совсем одинаково и после нескольких прыжков первоначальная ошибка растёт. Если система устроена так, что малые ошибки растут со временем (свойство перемешивания), то частота стремится к вероятности (эргодическая теорема Биркгофа-Хинчина). Про опорос свиней заранее ничего утверждать нельзя, нужна теория.

[Connector]

-_- в сообщении #1407674 писал(а):

Мне всё-таки кажется, что суть в другом. Одно дело, если мы измеряем, например, длину двумя способами: рулеткой и каким-нибудь эхолотом. И другое дело, если мы измеряем длину рулеткой и температуру градусником. На мой взгляд, история с «вероятностями» похожа на второй случай. У нас есть отдельно рулетка (методика расчёта «классической» вероятности), есть отдельно термометр (методика расчёта частотности из практических наблюдений), и есть ещё раз отдельно допущение о том, что оба этих прибора якобы дают оценку одной и той же величины. Вот это допущение и вызывает у меня сомнения.

...

Здесь мне неочевидны тезисы о том, что а) теоретическая вероятность в этой ситуации вообще существует; б) в принципе можно построить упомянутую биологическую модель.

Боюсь, что здесь мы уйдем слишком далеко в философию физики (и это будет совсем оффтоп), но если мы принимаем операциональное определение длины, то и в случае с длиной, измеренной эхолотом и рулеткой неочевидно, что перед нами одна и та же величина... В основе разных измерительных процедур там тоже лежат свои «априорные допущения».
...Свои слова про биологическую модель беру назад — не имел ввиду ничего конкретного (может быть ЗУ что-нибудь и подскажут в порядке оффтопа...). Мне здесь кажется важным то, что нам и необязательно строить какую-либо теорию такого рода; достаточно положить, что событие имеет некоторую вероятность, и связать эту неизвестную вероятность с наблюдаемыми частотами, применяя законы ТВ. Например, построить урновую модель, по формулам Байеса прикинуть число шаров данного типа, после чего оценить вероятность того, что следующим будет вытащен именно такой шар. В конце концов, вероятность можно интерпретировать как объективное свойство события, которое существует независимо от того, известно оно нам или неизвестно.

[wrest]

Соднце обычно встает на востоке и садится на западе. Не хная истинных причин этого, а просто наблюдая явление, можем ли мы сделать вывод такой, что вероятность того, что завтра солнце опять встанет на востоке, что эта вероятность растёт с каждым прожитым нами днём? Далее, как мы знаем, предположительно, все мы смертны. Но следуя логике с Солнцем, вероятность того что мы умрем завтра, каждый день уменьшается.
Если свиноматки в нашем колхозе поросились последние 10 лет примерно одинаково, должны ли мы сделать вывод о например отсутствии у них менопауз и бесконечной фертильности их и наших хряков, т.е. что так и будет дальше продолжаться вечно-бесконечно?

Я бы поставил на опорос скорее, чем на пиковую даму...