О природе вероятностных распределений

[Black_Evg]

Несколько слов вдогонку о распределении вероятностей.
1) Есть только одно распределение, отвечающее требованию равно вероятности наступления событий - нормальное распределение. Паскаль показал это строго и ясно на примере своего знаменитого треугольника.
2) Есть бесконечное сочетание идеальной равно вероятности (нормальный закон) с закономерным. Отсюда и бесконечное множество законов распределения. Какое бы явление вы не взяли, если сумеете отделить в нем "примеси закономерного", то придете к равно вероятности или нормальному закону. Например, радиоактивный распад и распределение Пуассона. Разве в радиоактивном распаде все случайно? Кто это строго показал?

[mserg]

Разумеется, это неверно, по крайней мере, для дискретных распределений.
В теории эволюции есть специальный коэффициент, который показывает долю недетерминированности системы. Если коэффициент равен 1, то система полностью недетерминирована; если коэффициент равен нулю – то система полностью детерминирована. Коэффициент основан на понятии информации по Шеннону и для системы c $N$ возможными состояниями легко вычисляется по дискретной функции распределения:
$k= \frac{\sum _{i=1} ^N -p_i ln p_i} {ln N}$
Нетрудно понять, что единственная функция распределения, которая соответствует полностью недетерминированной системе – это равномерное распределение, а никак не нормальное (aka биномиальное). Т.е. единственная функция распределения, которая не несет в себе никакой информации о системе – это равномерная. Польза от функции распределения – это частичное устранение недетерминированности, т.е. сама функция распределения несет в себе «информацию» о случайной величине.
Так, если бросать одну кость, то получим равномерное распределение и коэффициент недетерминированности 1. Если бросать кость два раза и рассматривать выпавшую сумму, то распределение будет треугольным с коэффициентом недетерминированности 0.633, и т.п.

Таким образом, если устранить из системы все детерминированное, то останется равномерное распределение. Его стандартизация ведет к непрерывному равномерному распределению [0,1).

[Black_Evg]

Для mserg и не только.
Для понимания природы случайного не надо никого дополнительно привлекать, достаточно будет Паскаля. А то легко из "нетрудно видеть" или "нетрудно понять" придти к ложным следствиям.
Возьмите монету и подбросьте ее достаточное число раз. Получится нормальное распределение. Теперь отложите монету, и мысленно постройте процесс ее падения на разные стороны таким образом, чтобы все возможные чередования падений были равновероятны. Опять получится нормальный закон. Первым эти два подхода осуществил Паскаль, за это мы его и ценим, за это и биномиальный треугольник, известный задолго до Паскаля, называем его именем.
Далее, берем Ваш пример с костьми, и накладываем на него требование равновероятности всех возможных исходов. Считаем распределение. Поробуйте увидеть в нем "равномерность".
Природа случайного до сих пор не может быть понята в непрерывном мире или мире полной детерминированности (Лаплас: Если бы идеальный разум мог объять ...). "Покажите мне природу случайного", просил Эйнштейн Бора, "и я приму принцип неопределенности". "Так устроена природа", отвечал на это Бор. Как будто он знал как она устроена, непрерывно или дискретно. Поэтому, когда мне кто-то говорит о "непрерывных случайных процессах", то тут комментарии не нужны.
Случайные явления это всегда очень сложно, до сих пор никто кроме Паскаля не показал теоретически природу любого другого распределения. И не покажет, потому что как только мы закладываем принцип равновероятности, так неизбежно получаем нормальное распределение. А сли принцип равновероятности не закладывать, то о какой идеальной случайности можно говорить?
Впрочем, если не обременен кое чем, то говорить можно.

[mserg]

Если возьмете монету и бросите ее «достаточное количество раз», то что Вы получите? Нормальное распределение? Нет, неправильно, не нормальное распределение. Вы получите выборку. Чтобы получилось распределение, нужно сказать кто здесь случайная величина. По биномиальному закону (в пределе - нормальному) распределена СУММА случайных величин. Так, (n+1)-я строка в треугольнике Паскаля определяет распределение количества (т.е. СУММЫ) орлов (решек) для n бросаний.
Так где же равномерное распределение? Задайтесь вопросом, распределение СУММЫ чего Вы считаете? Правильный ответ: суммы СЛУЧАЙНЫХ величин. А эти случайные величины ведь как-то распределены. Это распределение называется РАВНОМЕРНЫМ дискретным – единичное бросание монеты определяется этим законом. Т.е. ваше биномиальное распределение создается суммированием из множества одинаковых равномерных.
Уже миллион раз сказано, не единой СУММОЙ единой живет природа; что сама центральная предельная теорема, превращающая все на свете в нормальное распределение, имеет очень-очень существенные ограничения применимости; уже набила оскомину проблема «непрерывности» в теории вероятности, в том числе и для непрерывных случайных процессов, и т.д. и т.п. А писание всего этого – это элемент троллинга.
P.S. Кстати, «Принцип равновероятности» – это когда равновероятны все возможные исходы – это и есть равномерное распределение. Бросание монеты, бросание кости и т.д.

[serval]

Извините, если это совсем не в тему, но по прочтении топика у меня возник смутный образ "абсолютно черного тела" - на "вход" можно подать излучение с любым распределением мощности по частоте, а "выход" всегда будет одинаковым.

[Black_Evg]

Для mserg и не только.
1) Центральная предельная теорема придумана людьми, и "превращает" что-то только для людей. Природа о ней не подозревает.
2) Есть понятие энергии, оно не высосано из пальца. То, что Вы называете "суммой", я трактую как энергия. Так вот, энергия подчиняется нормальному закону, если исходы всех возможных чередований падений монеты равновероятны.
3) Вы спрашиваете, "А чему подчиняется не сумма, а сама случайная величина"? Ответ: Принципу равновероятности!. Не надо ничего придумывать и додумывать, вроде "равномерности". А думать надо, набивают оскомину темные места, и пока они будут будет и оскомина.

[Black_Evg]

4) Если речь идет о случайной величине и ей приписывается равновероятность всех возможных исходов, то вопросов не возникает. А вот если равновероятности нет, то в какой мере мы можем считать величину случайной? Пусть всякий, предлагающий отличное от нормального распределение покажет, в чем именно отклонение от равновероятности.
5) Для того, чтобы спрятаться от ответа, придумали "равномерность". Смотри здесь "равномерность", а здесь "треугольность". Все так, но если все перевести в термины случайного, то нужно ясно сказать "У меня нет равновероятности, я теперь не знаю насколько моя величина случайна, а насколько в ней подмешана закономерность". Потому что все не равновероятное, должно неизбежно быть частично закономерным.

[serval]

Насчет равновероятности. Видел в музее настоящие средневековые игральные кости и поразился тому, насколько их форма отлична от куба. Проще говоря, они весьма кривые по всем параметрам. Интересно, как это влияет на: 1. вероятность выпадения грани, 2. на исход всей игры?

[mserg]

Евгений, Я Вам дал формулу, которая вычисляет долю случайности для дискретных распределений. Этот вопрос исчерпан - не занимайтесь флудерастией, а то Вас заблокируют.
P.S. Кстати, коэффициент случайности из примера выше не 0.633, а 0.946 – очепятка вышла.

[Black_Evg]

Монета - это 2-х альтернативный случайный процесс, а кость - 6-ти. А по формулам уважаемого mserga получается, что чем выше число альтернатив в случайном процессе, тем ниже доля случайности. Действительно, чтобы формулы устояли, меня нужно срочно закрыть. Может быть эти формулы выведены для тех "средневековых кривых костей", которые serval видел в музее?

[mserg]

Для бросания монеты имеем два равновероятных исхода с вероятностью 1/2. Подставляем в формулу:
$\frac {- \frac 1 2 ln(\frac 1 2) - \frac 1 2 ln(\frac 1 2)} {ln 2} = 1$
Аналогично для кости, только имеем шесть исходов с вероятностью 1/6:
$\frac {- \frac 1 6 ln(\frac 1 6) - \frac 1 6 ln(\frac 1 6) - \frac 1 6 ln(\frac 1 6) - \frac 1 6 ln(\frac 1 6) - \frac 1 6 ln(\frac 1 6) - \frac 1 6 ln(\frac 1 6)} {ln 6} = 1$
Доля случайности, как для монеты, так и для кости, одинаковая и равна 1.

По моему, Вам нужен врач соответствующего профиля, а модераторам нужно Вас забанить чтобы уменьшить количество мусора.

[Black_Evg]

mserg, не спешите с врачем. Если бросать монету всего 2 раза и строить распределение выпавшей суммы, то мы тоже получим значения частот выпадения сумм (=0,1,2) как 1,2,1. Числа 1,2,1 дают треугольник, и что на основании этого можно говорить о треугольном распределении? На основании 2-х бросаний?!! А если бросить ту же монету 1000 раз, то получим нормальный закон. И разве степень случайности процесса зависит от числа бросаний? А у Вас получается, что зависит. Я в споре по отношению к Вам не всегда был корректен, признаю это, но Ваши утверждения о треугольном распределении суммы по "2-м бросаниям кости" с подсчетом степени детерминизма (0,946) как оценить? Не трогайте медицину всуе.

[mserg]

Вам абсолютно точно нужен врач. Если Вы хотите экспериментально проверить, является ли распределение треугольным, нужно взять 2 монеты и бросать их до посинения. После каждого бросания подсчитать количество орлов и добавлять единичку к соответствующему столбику гистограммы (0-1-2). При наступлении посинения, нормировать диаграмму – получите близкое к треугольному распределение. Я не знаю, кто Вас учил теории вероятности, но над вами зло подшутили. Вы не понимаете азов теории вероятности.

Если Вы бросите монету 1000 раз, то получите одно число – количество выпавших орлов. Чтобы получить «нормальный» закон, нужно 1000 монет бросить 1000000 раз, после каждого бросания считать орлов, строить гистограмму и нормировать ее. Математически “нормально” распределена следующая величина (это количество орлов):
$v=\sum_{i=1}^{1000} int(2*r_i)$
Где int – это взятие целой части, а $r_i$ – соответствующая случайная величина [0,1). Случайность каждой из 1000 случайных величин равна единице. А вот случайность суммы, т.е. величины v, будут значительно меньше. Если в качестве функции была бы не сумма, а скажем, максимум, то случайность v была очень и очень маленькой:
$v=\max_{i=1}^{1000} int(2*r_i)$

В реальной жизни, случайные величины могут быть связаны какими угодно формулами. Обычные математические модели отличаются от вероятностных только тем, что там есть случайности (случайные величины, процессы и т.д).

[Black_Evg]

Уважаемый mserg,
1) никто кроме Вас не бросает 2 монеты до посинения, достаточно будет посмотреть на 2-ю строку треугольника Паскаля;
2) никто кроме Вас не строит распределение, основанное на сумме 2-х бросаний (цепочке из 2-х событий) и глубокомысленно утверждает чепуху о его треугольном распределении и о степени его случайности;
3) для получения нормального закона достаточно рассмотреть цепочки по 16-32 событий. Возьмите число Пи, разбейте его значащие цифры на подряд идущие цепочки цифр, а затем примените известную процедуру подсчета суммы. Я это делал, получается нормальный закон, потому что всякое иррациональное число является идеальным генератором случайным образом чередующихся цифр. Не нужно 1000 монет бросать 1000000 раз, нужно понимать и чувствовать случайное;
4) учусь у Паскаля.

[serval]

Цитата:

для получения нормального закона достаточно рассмотреть цепочки по 16-32 событий

Обоснуйте.

Цитата:

нужно понимать и чувствовать случайное

Первое - обязательно, второе - опасно. Само упоминание второго опасно само по себе.