Среднее арифметическое, медиана, мода, ...

[longstreet]

Известно, что существует множество способов "усреднения": среднее арифметическое, медиана, мода и множество других.
Известно также, что для всех них доказан закон больших чисел. Это означает, что, увеличивая выборку, можно приблизится к некоторому истинному среднему независимо от того, каким из способов "усреднений" пользоваться.
Однако, если выборка невелика, разные способы могут давать несколько отличные результаты.

Вопрос: как узнать, с какой скоростью конкретный способ "усреднения" приводит к истинному среднему?

-- 29.11.2011, 01:38 --

Какую литературу можете посоветовать как полезную для того, чтобы разобраться в вопросе?

Я слышал где-то, будто бы есть соотношения между различными способами "усреднениями".

[venco]

longstreet в сообщении #509436 писал(а):

Известно, что существует множество способов "усреднения": среднее арифметическое, медиана, мода и множество других.
Известно также, что для всех них доказан закон больших чисел. Это означает, что, увеличивая выборку, можно приблизится к некоторому истинному среднему независимо от того, каким из способов "усреднений" пользоваться.

Это какое-то новое слово в статистике.
Вас кто-то обманул.

[longstreet]

Какое конкретно слово?

[Jew]

Вы как-то очень туманно излагаете.

Да, при больших объемах выборки, то есть при объеме $n$ при $n\to\infty$ выборочные характеристики приближаются к генеральным.

Что касается Вашего вопроса, знаю только, что еще Колмогоров в своих трудах писал о "скорости" аппроксимации кумуляты выборки к графику функции распределения нормально распределенной величины по мере увеличения объема выборки. На самом деле, могу сказать, что это довольно темная материя. Вы уверены, что Вам именно это нужно? Просто для каких-то частных случаев, скорость еще доступна, но общие соотношения.. Я сомневаюсь, что они вообще существуют..

[longstreet]

Меня интересует практическая сторона. Но хочется её иметь строгой.

Тупой пример. Меряем линейкой $10$ раз длину карандаша. Такое ощущение, что в некотором смысле "усреднять" лучше используя среднее арифметическое. Хотя если бы измерений было $1 000$, то, судя по всему, среднее арифметическое, медиана, моды были бы равноправными как способы "усреднения".

Вот меня и интересует, как для конкретного типа измерения понять, какое "усреднение" использовать, чтобы можно было обойтись меньшей выборкой.


Извиняюсь за очередной туман.

[venco]

longstreet в сообщении #509450 писал(а):

Какое конкретно слово?

Мода выборки приближается к моде всего множества (если она есть).
Медиана выборки приближается к медиане всего множества.
Среднее арифметическое выборки приближается к среднему арифметическому всего множества.
Но все эти "идеальные" средние могут быть разными, и друг к другу не сходятся.

[longstreet]

Да.
Да.
Да.
В случае небольшой выборки они действительно могут быть (и скорее всего) различными. Но при $n\to\infty$ они ещё и приближаются друг к другу. Для них справедлив закон больших чисел.

[Jew]

venco в сообщении #509454 писал(а):

longstreet в сообщении #509450 писал(а):

Какое конкретно слово?

Мода выборки приближается к моде всего множества (если она есть).
Медиана выборки приближается к медиане всего множества.
Среднее арифметическое выборки приближается к среднему арифметическому всего множества.
Но все эти "идеальные" средние могут быть разными, и друг к другу не сходятся.

В нормальном распределении, которое, к слову, является предельным для множества других распределений, средняя, мода и медиана, отличаются незначительно, а при достаточно большом n можно говорить об их равенстве.

[longstreet]

То есть, например, у нас есть асимметричный игральный кубик. Мы бросаем его $n\to\infty$ раз. Потом "усредняем" исходы бросков. Сначала используя среднее арифметическое. Потом используя моду. И, наконец, используя медиану. Результаты при $n\to\infty$ совпадут.

[Jew]

longstreet в сообщении #509453 писал(а):

Меня интересует практическая сторона. Но хочется её иметь строгой.

Тупой пример. Меряем линейкой $10$ раз длину карандаша. Такое ощущение, что в некотором смысле "усреднять" лучше используя среднее арифметическое. Хотя если бы измерений было $1 000$, то, судя по всему, среднее арифметическое, медиана, моды были бы равноправными как способы "усреднения".

Вот меня и интересует, как для конкретного типа измерения понять, какое "усреднение" использовать, чтобы можно было обойтись меньшей выборкой.


Извиняюсь за очередной туман.

Если я Вас правильно понял, то Вы просто хотите знать, какую характеристику рациональнее рассчитывать, т.е. какая характеристика даст наибольшую точность при том же объеме выборки в зависимости от типа наблюдаемого явления?

Если так, то теоретического обоснования я Вам не дам. Потому что не совсем представляю себе практическую, да и научную актуальность этого вопроса. Эти характеристики, хоть и равны для нормального распределения, имеют различное значение. И Вы, по логике, должны применять то, что подходит в каждом конкретном случае..

Я хочу сказать, что нет смысла считать моду, если Вам нужно рассчитать среднее значения лондонского фиксинга за 2 года, даже если при каком-то n эта мода станет равна среднему значению.

[longstreet]

Да, Jew, Вы меня поняли правильно. Именно этого я и хочу. Спасибо, что сняли туман.

-- 29.11.2011, 03:16 --

Про практическую, да и научную актуальность.

Грубо говоря, есть разные типы данных, которые измеряются различными шкалами. Это связано с тем, что не всегда объекты усреднения во всём являются числами. Да, для лондонского фиксинга за два года разумнее всего использовать среднее арифметическое. Потому что объекты имеет смысл складывать (и другие арифметические действия).

Но иногда сложение для объектов не имеет прямого смысла. Например, выпускаем на поле игроков в футболках с номерами. Тут эти номера - лишь названия, но не числа. Они "измеряются" в так называемой номинальной шкале (когда есть смысл только сказать для двух объектов - разные это объекты или одинаковые). Далее мы хотим "усреднить" номера игроков, чтобы понять, с каким номером игроков на поле больше. Тут логичнее взять моду (номер объекта, встречающийся более всего раз).

Есть и другие случаи. (Может, пример неудачный.) Но грубо, приближённо, можно условиться и приписывать игрокам на поле числа в полном смысле и считать среднее арифметическое. Для $n\to\infty$ получится то же самое, что и для моды.

-- 29.11.2011, 03:20 --

Ах, да! Пример плохой. У меня более сложный случай.
Хотелось бы показать, что, в общем случае, один способ усреднения рациональнее, чем другие. Хотелось бы иметь возможность сравнивать разные способы усреднения в смысле "скорости" приближения результата, получающегося при данном способе, к "правильному".

[--mS--]

Может, двоим дискуссантам почитать хоть какую-нибудь книжку по математической статистике? Любую, где обсуждается точечное оценивание параметров? Их пруд пруди в общедоступных источниках: на выбор - Крамер, Володин, Ивченко+Медведев, Боровков, Пугачёв, Ш.Закс.
Боюсь, вряд ли кто-то тут захочет объяснять с нуля свойства оценок параметров, сравнение оценок в разных смыслах, эффективность оценок и прочая, и прочая. Тем более, когда вопрос стоит так неконкретно.

Ну что - для нормального обсуждать? Тем более раз мы договорились, что мода, медиана и среднее (истинные, пожалуйста: прочие называют выборочными) не могут не совпадать, а если они не совпадают, так это распределение следует выбросить по той причине, что у нормального всё хорошо? Ну пожалуйста, для нормального: для выборки из $\textrm N(m,\sigma^2)$ выборочное среднее есть состоятельная, несмещённая, асимптотически нормальная с коэффициентом $\sigma^2$, эффективная (наилучшея в среднеквадратичном смысле в классе несмещённых) оценка истинного среднего $m$. Для той же выборки выборочная медиана есть состоятельная, при подходящем выборе таковой - несмещённая, асимптотически нормальная с коэффициентом $\frac{\pi}{2}\sigma^2$, не эффективная ни разу оценка для того же $m$. Асимптотическая нормальность оценок - это как раз о скорости сближения с параметром...

За моду выборки ничего доброго не скажу, ибо боюсь, что наборы тех, кто знает, что эта за оценка и как её единственным образом определить по выборке, и тех, кто умеет что-то говорить о свойствах объектов, имеют пустое пересечение.

[ИСН]

longstreet в сообщении #509458 писал(а):

То есть, например, у нас есть асимметричный игральный кубик. Мы бросаем его $n\to\infty$ раз. Потом "усредняем" исходы бросков. Сначала используя среднее арифметическое. Потом используя моду. И, наконец, используя медиану. Результаты при $n\to\infty$ совпадут.

Нет. Возьмём обычный кубик, для простоты. Среднее сойдётся к трём с половиной. Медиана - к 3 или 4. Есть разница?

[longstreet]

--mS--, то есть, ответ на вопрос не "темная энергия"?

А почему вопрос некорректен? И как, по Вашему, ему можно переформулировать в корректный?

В моём случае я имею дело не с модой, а с медианой. У меня измерения в порядковой шкале (то есть, для любых двух объектов известно, какое из них больше или что они равны). Из способов усреднения советуют брать медиану (порядки нельзя складывать в том смысле, как складываем числа). Но есть и другие способы для порядковой шкалы (и другие, специальные медианы). Хотелось бы способы оценить в каком-то смысле и выбрать более эффективный для небольших выборок. И оценить какими по размеру должны быть выборки, чтобы усреднение было близко к достоверному. Есть какие оценки того, насколько большой должна быть выборка?

-- 29.11.2011, 12:35 --

ИСН, разница есть! Вот только добра ли она? Вообще, Вы меня шокировали. Что делать-то?

Я где-то читал, что в случаях, когда существуют левая медиана и правая медиана, медианой следует считать всё множество точек (отрезок), от 3 до 4 включительно. То есть медиана есть $[3,4]$.

Действительно, когда я рассматриваю и некоторые специальные виды медиан, медиана в общем случае не единственна (то есть медиана - не функция, а множество функций).

-- 29.11.2011, 12:40 --

А, ИСН, я знаю как подогнать ответ. Именно, вспомнил, что ещё (наряду с тем, чтобы считать медиану множеством) советуют, если есть и левая медиана и правая медиана, медианой считать их среднее арифметическое.
Может, так и надо? Ответ будет три с половиной.

[ИСН]

Ничего не делать. Сухари сушить.
Способ усреднения (про который говорит закон больших чисел) один. Остальные - это не способы усреднения. Это способы не усреднения. Это способы чего-то другого. У них тоже могут быть оценки асимптотики, но, как видите - - -