Почему у нормального распределения такая функция?

[Евгений Машеров]

Можно. Это, скажем, у Феллера приведено. Но тут прелесть задачи в том, чтобы объяснить без "тяжёлой артиллерии", которую барышни либо не знают, либо "проходили", причём мимо. Пользуясь элементарными соображениями и немного "анекдотической математикой" типа того же произведения Валлиса, которое они из популярного изложения узнали.

(Оффтоп)

Вообще хотелось что-то вроде лекций адмирала Крылова по теории остойчивости корабля, читанных на курсах комиссаров Балтфлота. Революционных матросов было нужно обучить минимуму знаний, нужных для контроля за командиром, назначенным из офицеров. Но если принципы стрельбы или ухода за машинами или, скажем, тактики можно было "на пальцах" объяснить, то статическая остойчивость это интегралы по объёму (для нахождения центра тяжести корабля), а динамическая - дифуравнения в частных производных, описывающие поведение корабля на волнении. При этом объяснить надо было непременно - хотя бы для того, чтоб, услыхав приказ офицера "Открыть кингстоны по правому борту!" комиссар не застрелил бы вредителя сразу, а понял, что это выравнивание крена и мера по спасение корабля.
Войдя в аудиторию, адмирал спросил:
- С дифференциальным и интегральным исчислением кто-нибудь знаком?
Установилось тягостное молчание.
- А алгебра и геометрия вам, товарищи, известны?
Молчание из тягостного становилось враждебным.
- Ну, хоть четыре действия арифметики не вызывают затруднений?
- С тремя хорошо, а в делении путаемся!
Так вот, пользуясь только арифметикой и элементарной геометрией, адмирал прочёл образцовый курс этой сложной науки.
Хотелось бы чего-то подобного...

[MaximVD]

Ales,
если Вам интересно, то есть одно доказательство ЦПТ, которое имеет очень простой физический смысл (правда математических деталей там довольно много, но основную идею они не изменяют).

Можно для достаточно широкого класса случайных величин ввести понятие энтропии (физический термин). "Физическое" доказательство ЦПТ основано на том факте, что с ростом $n$ энтропия нормированной суммы (той, которая в формулировке ЦПТ) возрастает и (это самое важное) максимальную энтропию имеет именно случайная величина с нормальным стандартным распределением. Так вот в доказательстве показывается, что энтропия нормированной суммы возрастает и стремится к энтропии нормальной стандартной случайной величины и из этого потом можно вывести то, что утверждается в ЦПТ.
Это доказательство, кстати, придумал Ю.В.Линник.

[Евгений Машеров]

Оно конечно красивое доказательство. Только вот при изменении параметра масштаба энтропия также меняется. И для сравнимости надо масштаб нормировать. Если нормируем квадратичной мерой, дисперсией - да, максимизирует энтропию нормальный закон. Если абсолютным отклонением - Лаплас. Если размахом, максимум минум минимум, то и вовсе равномерное распределение.

[MaximVD]

Евгений Машеров
Да, Вы правы. Это я не уточнил.
В ЦПТ у нормированной суммы фиксировано математическое ожидание - 0, и дисперсия - 1. Вот если искать максимум энтропии среди случайных величин с таким мат.ожиданием и дисперсией, как у нормированной суммы (без каких-либо других ограничений, кроме, конечно, существования энтропии), то максимум достигается в единственной точке - как раз на нормальном стандартном распределении.

[Vince Diesel]

(Оффтоп)

Евгений Машеров в сообщении #421201 писал(а):

Так вот, пользуясь только арифметикой и элементарной геометрией, адмирал прочёл образцовый курс этой сложной науки.Хотелось бы чего-то подобного...

Я бы послушал такой курс Крылова
А откуда такая история? Я читал его воспоминания, такого там вроде не было.

[venco]

Евгений Машеров в сообщении #421243 писал(а):

Оно конечно красивое доказательство. Только вот при изменении параметра масштаба энтропия также меняется. И для сравнимости надо масштаб нормировать. Если нормируем квадратичной мерой, дисперсией - да, максимизирует энтропию нормальный закон. Если абсолютным отклонением - Лаплас. Если размахом, максимум минум минимум, то и вовсе равномерное распределение.

Я подозреваю, если нормировать не по дисперсии, то возрастания энтропии не будет.

[Евгений Машеров]

(Оффтоп)

Именно в таком виде, с диалогом зала с лектором - это фольклор, источника назвать не могу. Кажется (но очень неуверено), что этот рассказ я почерпнул из сборничка под названием "Аллотрион", составленным одним из профессоров кафедры математики Одесского политехнического института из околоматематичсеких баек и анекдотов и предназначенного в помощь молодым преподавателям для "оживления" лекции. Увы, я его утратил при переезде и проверить, оттуда ли, или, скажем, из "околотехнических" анекдотов, печатавшихся в своё время в "Технике-Молодёжи" - не могу. В предисловии к его, Крылов, воспоминаниям изложено куда суше:
А. Н. Крылов читает курс теории корабля комиссарам Балтфлота. Курс этот был издан в 1922 г. и представляет большой интерес, так как он является образцом блистательного изложения столь сложного вопроса для неподготовленной аудитории. В дальнейшем в переработанном виде он вошел в собрание сочинений.
Найти это собрание сочинений можно, но, вероятно, опубликованный там вариант адаптирован уже к уровню слушателей Военно-Морской Академии, прошедших хотя бы подготовительные курсы.

[Евгений Машеров]

(Оффтоп)

К сожалению, в Ленинке собрание сочинений А.Н.Крылова убрали из доступа в зале в общее хранилище. Так что не посмотрел.

[Евгений Машеров]

Элегантное объяснение вывода нормального распределения есть у Хемминга ("Численные методы для научных работников и инженеров", стр. 235, 236). Рассматривается двумерная случайная величина ("метание дротика"), причём делается довольно разумно звучащее предположение, что распределение отклонений не зависит от выбора системы координат, а только от расстояния до центра мишени. После довольно очевидных выкладок получаем плотность двумерного, а от него и одномерного нормального распределения, причём $\pi$ там появляется совершенно естественным образом - переходят в полярные координаты, интегрируют по углу (от которого вероятность, по условию, не зависит, только от радиуса), откуда и всплывает оное таинственное число, через длину окружности, а потом и $\sqrt {\pi}$ получается.
Тонкая существенность в предположениях - что не просто ошибка по X не зависит от ошибки по Y, но она независима при любых поворотах системы координат. Собственно, это одно из определений нормального распределения. Ортогональные преобразования переводят нормально распределённый вектор в нормальный.

[profrotter]

(Оффтоп)

MaximVD, Евгений Машеров, можно попросить вас пояснить по поводу энтропии.
Я правильно понял, что среди всех случайных величин с одинаковой дисперсией именно гауссова имеет максимальную энтропию?
Если можно, приведите точную ссылку на источник с доказательством.

[Vince Diesel]

(Оффтоп)

Спасибо! Я нашел какой-то том избранных трудров в сети, но там этого нет. А комиссаров учить инженерным дисциплинам это нечто)

[Ales]

Евгений Машеров в сообщении #421482 писал(а):

Тонкая существенность в предположениях - что не просто ошибка по X не зависит от ошибки по Y, но она независима при любых поворотах системы координат. Собственно, это одно из определений нормального распределения.

Я как раз критиковал такое предположение. Оно не честное.

[Joker_vD]

Ales в сообщении #421638 писал(а):

Я как раз критиковал такое предположение. Оно не честное.

Что результаты бросков не завистят от того, какую систему координат мы нарисуем на мишени после бросков — нечестное предположение?

[Ales]

Joker_vD в сообщении #421646 писал(а):

Ales в сообщении #421638 писал(а):

Я как раз критиковал такое предположение. Оно не честное.

Что результаты бросков не завистят от того, какую систему координат мы нарисуем на мишени после бросков — нечестное предположение?

Нечестное предположение, что разбросы по координатам X и Y - независимые величины.
Из такого смелого предположения вытекает, что распределение нормальное.

[Евгений Машеров]

Из независимости координаты Х и У ещё нормальность не следует. Но вот из независимости при любом повороте координатных осей...