Среднее арифметическое и среднее геометрическое

[arqady]

arqady в сообщении #337207 писал(а):

Для $n=3$ получается

$$\frac{a+b+c+\sqrt{ab}+\sqrt{ac}+\sqrt{bc}+\sqrt[3]{abc}}{7}\geq\sqrt[7]{\frac{(a+b+c)(a+b)(a+c)(b+c)abc}{24}}$$

которое выглядит верным.

Да! Это действительно верно! Вот для $n=4$ получается что-то ужасное, хотя по-прежнему выглядит верным.

[мат-ламер]

Цитата:

Вы путаете состоятельность и несмещённость.

Состоятельной оценкой будет среднее арифметическое, и в данном случае только оно, см. ЗБЧ.

Я всегда представлял, что если мат. ожидание оценки стремится к мат. ожиданию оцениваемой сл. величины, и дисперсия оценки стремится к нулю, то такая оценка будет состоятельной. (Хотя формально состоятельность определяется как сходимость по вероятности оценок к постоянной сл. величине, равной мат. ожиданию оцениваемой сл. величины. Но это выполняется вроде в силу неравенства Чебышева, но я ещё посмотрю в учебниках.) В данном случае (я для простоты предполагал нормальность) состоятельной оценкой будет, например, медиана (и таких оценок можно придумать много). Другое дело, в случае нормальности среднее арифметическое будет оптимальной оценкой. В нашем случае (оценивание нормальной сл. величины с помощью среднего геометрического) оценка действительно будет смещена. Провёл эксперимент на компьютере. Была взята сл. величина со средним 5 и дисперсией единица. Если реализация была меньне нуля, то она приравнивалась к нулю (не совсем нормальная с.в., но почти). Оценка по среднему геометрическому сошлась к 4.89 при неограниченом увеличении наблюдений. То что для конечного числа наблюдений есть смещение - очевидно. Но и при возрастании наблюдений, как оказалось, смещение может только возрастать, правда, до определённой границы.

[--mS--]

мат-ламер в сообщении #337455 писал(а):

Я всегда представлял, что если мат. ожидание оценки стремится к мат. ожиданию оцениваемой сл. величины, и дисперсия оценки стремится к нулю, то такая оценка будет состоятельной.

Оценка может быть состоятельной, не имея никакой дисперсии. Тем более совпадение матожидания оценки и параметра (см. своё сообщение) не имеет отношения к состоятельности.

мат-ламер в сообщении #337455 писал(а):

В данном случае (я для простоты предполагал нормальность) состоятельной оценкой будет, например, медиана (и таких оценок можно придумать много).

Безусловно, а разве выборочная медиана тоже есть некая функция от среднего арифметического других функций? Она никак не принадлежит обсуждаемому классу статистик.

мат-ламер в сообщении #337455 писал(а):

В нашем случае (оценивание нормальной сл. величины с помощью среднего геометрического) оценка действительно будет смещена. Провёл эксперимент на компьютере.

Написали бы сразу, что предпочитаете формулам рассуждения на пальцах, я бы и не трудилась. Все знаки неравенств выше - строгие, можно было и не мучить компьютер. См. неравенство Йенсена.

[мат-ламер]

Цитата:

Я всегда представлял, что если мат. ожидание оценки стремится к мат. ожиданию оцениваемой сл. величины, и дисперсия оценки стремится к нулю, то такая оценка будет состоятельной.

Я не понял - это что, неверно? Ивченко Г.И., Медведев Ю.И. Математическая статистика. 1984. Теорема 2.10 на стр. 72. Доказательство основано на неравенстве Чебышева. Может я не так что понимаю?

Цитата:

Написали бы сразу, что предпочитаете формулам рассуждения на пальцах, я бы и не трудилась. Все знаки неравенств выше - строгие, можно было и не мучить компьютер. См. неравенство Йенсена.

Когда писал сообщение, мне было очевидно, что оценка по среднему геометрическому смещена (для нормальных распределений), но не было очевидно насчёт ассимптотической смещённости (т.е. оценка может быть смещена, но смещение стремится к нулю). Но быстро выяснилось, что смещение увеличивается с ростом наблюдений. У Вас доказательство для конечной выборки. Кроме того, непонятно, насколько верны у Вас строгие неравенства для случая, который рассматривал PAV (экспонента от нормального распределения).

[ewert]

мат-ламер в сообщении #337664 писал(а):

Я не понял - это что, неверно?

Это-то верно, но неверно обратное: из состоятельности не следует не только существование дисперсии, но даже и её стремление к нулю (если она всё-таки существует).

[--mS--]

мат-ламер в сообщении #337664 писал(а):

Я не понял - это что, неверно?

Не подменяйте тезис. Вы произнесли "то будет ли эта оценка состоятельной, т.е. будет ли её (оценки) матожидание равняться матожиданию сл. величины?" Достаточные условия состоятельности тут ни при чём.

мат-ламер в сообщении #337664 писал(а):

Но быстро выяснилось, что смещение увеличивается с ростом наблюдений. У Вас доказательство для конечной выборки. Кроме того, непонятно, насколько верны у Вас строгие неравенства для случая, который рассматривал PAV (экспонента от нормального распределения).

Вы принципиально не хотите познакомиться с неравенством Йенсена, или есть какие-то причины?
По поводу асимптотической несмещённости: пр некоторых условиях, обеспечивающих сходимость матожиданий, и для невырожденных $X_i > 0$

$$\mathsf E e^{\frac1n(\ln X_1+\ldots+\ln X_n)} \quad \to \quad e^{\mathsf E\ln X_1} \ \pmb{< } \ e^{\ln\mathsf E X_1} = \mathsf E X_1. $$

Неравенство Йенсена.

[мат-ламер]

Уважаемая --mS--! Я кажется начинаю понимать причину недопонимания. Дело в том, что когда я писал

Цитата:

то будет ли эта оценка состоятельной, т.е. будет ли её (оценки) матожидание равняться матожиданию сл. величины?

то я под словами "то есть" имел в виду не равносильность этих понятий, а то что в нашей ситуации эти понятия представлялись мне равносильными. "В нашей ситуации" - я имел в виду, что у оценки существует мат. ожидание, дисперсия и дисперсия оценки стремится к нулю (что мне представлялось как-бы очевидным в нашем случае). При таких предположениях мне кажется, что состоятельность эквивалентна асимптотической несмещённости.

--mS-- в сообщении #337691 писал(а):

мат-ламер в сообщении #337664 писал(а):

Но быстро выяснилось, что смещение увеличивается с ростом наблюдений. У Вас доказательство для конечной выборки. Кроме того, непонятно, насколько верны у Вас строгие неравенства для случая, который рассматривал PAV (экспонента от нормального распределения).

Вы принципиально не хотите познакомиться с неравенством Йенсена, или есть какие-то причины?

А что, тут тоже что-то неверно? Второе Ваше неравенство в сообщении от понедельник доказывает смещённость оценки для конечной выборки. (Правда сейчас заметил, что асимптотическая смещённость следует из первого Вашего неравенства) Я не утверждал, что эти неравенства неверны. Мне не понятно, верны ли они для случая о котором писал PAV. Попробую в этом разобраться. Т.е. вопрос стоит так. Пусть оцениваемая случайная величина - экспонента от нормальной. Будет ли в этом случае оценка по среднему геометрическому смещена?

[--mS--]

мат-ламер в сообщении #337840 писал(а):

Мне не понятно, верны ли они для случая о котором писал PAV. Попробую в этом разобраться. Т.е. вопрос стоит так. Пусть оцениваемая случайная величина - экспонента от нормальной. Будет ли в этом случае оценка по среднему геометрическому смещена?

Может быть, имеет смысл попросить PAV поточнее описать постановку задачи? Потому что мне слова "оцениваемая величина - экспонента от нормальной" вообще ничего не говорят. Оцениваем мы не случайную величину, а какой-то параметр, в случае среднего арифметического это было матожидание слагаемых.

Если, как я думаю, предлагается с помощью $\sqrt[n]{Y_1\ldots Y_n}$ оценивать $e^a$, где $a=\mathsf E\ln(Y_1)$ ($Y_i$ - экспоненты от нормально распределенных с параметрами $a$ и что угодно случайных величин), то ответ был дан в сообщении #337691 как раз по этому поводу. Неравенство Йенсена: если $\mathsf Ea^* = a$, то $ \mathsf Ee^{a^*} > e^a$.

[мат-ламер]

Как я понял, $PAV$ предлагал следующее. Предположим есть сл. величина (допустим нормальная). Наблюдаем не её, а экспоненту от неё. Затем берём среднее геометрическое от выборки. Так оно сходится к экспоненте от мат.ожидания исходной сл. величины (которая конечно же меньше в силу неравенства Йенсена чем мат.ожидание экспоненты сл. величины). Вообщем, если всё это прологарифмировать, то это то же самое, что выборочное среднее сходится к мат.ожиданию нормальной сл. величины.
--mS--. Вам надо было свои формулы в первом сообщении за понедельник снабдить соотв. комментариями. Хотя вообщем и так всё понятно, но перед второй формулой стоит "то же о смещённости". А я в спешке подумал, что доказана только смещённость для конечной выборки (во второй формуле). Потом уже сообразил, что ассимптотическая смещённость доказана в первой формуле.
Однако загадкой для меня осталось сообщение ewerta.

ewert в сообщении #337668 писал(а):

мат-ламер в сообщении #337664 писал(а):

Я не понял - это что, неверно?

Это-то верно, но неверно обратное: из состоятельности не следует не только существование дисперсии, но даже и её стремление к нулю (если она всё-таки существует).

То есть непонятно, как построить пример сл. величины и её состоятельной оценки, у которой существует дисперсия, не стремящаяся к нулю.

[ewert]

мат-ламер в сообщении #338227 писал(а):

То есть непонятно, как построить пример сл. величины и её состоятельной оценки, у которой существует дисперсия, не стремящаяся к нулю.

Ну сочините последовательность случайных величин, у которых вероятность попадания в любой интересный интервал стремится к единице, а дисперсия тем не менее стремится к бесконечности. Ну хоть просто дискретных. А ведь оценка (ну или статистика, дело вкуса) -- говоря абстрактно, не более чем некоторая случайная величина.

[--mS--]

мат-ламер в сообщении #338227 писал(а):

Как я понял, $PAV$ предлагал следующее. Предположим есть сл. величина (допустим нормальная). Наблюдаем не её, а экспоненту от неё. Затем берём среднее геометрическое от выборки. Так оно сходится к экспоненте от мат.ожидания исходной сл. величины (которая конечно же меньше в силу неравенства Йенсена чем мат.ожидание экспоненты сл. величины). Вообщем, если всё это прологарифмировать, то это то же самое, что выборочное среднее сходится к мат.ожиданию нормальной сл. величины.

Совершено справедливо. Только Вы спрашивали про несмещённость, а рассказываете про состоятельность

мат-ламер в сообщении #338227 писал(а):

Потом уже сообразил, что ассимптотическая смещённость доказана в первой формуле.

Нет, там об асимптотической смещённости формально и речи нет. О чём спрашивалось, то там и нарисовано: (не)состоятельность и смещённость . Так же, как и в предыдущем сообщении, где обсуждалась несмещённость (смещённость) оценок, о которых говорил PAV.

мат-ламер в сообщении #338227 писал(а):

То есть непонятно, как построить пример сл. величины и её состоятельной оценки, у которой существует дисперсия, не стремящаяся к нулю.

Ох, не нравится мне это смешение понятий. Оценка (состоятельная) бывает у (числового) параметра. А не у случайной величины. Этот термин - из статистики.
Если же говорить просто о примерах последовательностей $\xi_n {\buildrel p\over\to} \xi$ таких, что $\mathsf D\xi_n \not\to \mathsf D\xi$ (все существуют), то таких пруд пруди: как предлагал ewert, пусть $\mathsf P(\xi_n = n)=1/n^2=1-\mathsf P(\xi_n=0)$. Последовательность сходится к нулю по вероятности, а дисперсии сходятся к единице.

[PAV]

--mS-- в сообщении #338186 писал(а):

Может быть, имеет смысл попросить PAV поточнее описать постановку задачи?

По правде говоря, у меня не было никакой постановки задачи. Было просто некоторое умозрительное заключение (кстати, не бесспорное), что если природа наблюдаемых данных неизвестна, то, вообще говоря, нельзя априори считать, что наиболее правильным с точки зрения решаемой задачи "средним" будет арифметическое. Разные могут быть ситуации.

[sergei1961]

Неравенство, которое здесь приводил Sasha2 , доказано амер. математиком Kedlaya, известно.
У нас переоткрывалось потом, чуть ли не в матзаметках.

[Евгений Машеров]

Я вижу три причины для предпочтения среднего арифметического (вероятно, можно указать и ещё):
1. Оно существует всегда (тогда как среднее геометрическое требует положительности, среднее гармоническое - неравенства нулю и т.п.). Более того, его можно естественным образом обобщить на комплексные числа, матрицы и т.п. Сюда же простота вычисления, хотя это куда менее важно, чем несколько десятилетий назад.
2. Для него выполняются некоторые практически полезные свойства (аддитивность, скажем, в том смысле, что среднее объединённой выборки есть взвешенное среднее подвыборок). Это важно, например, в экономике (кстати напомню, что одно из английских названий среднего арифметического - average - как раз от экономического применения, от распределения убытка при авариях, по средней стоимости груза).
3. Оно является наилучшей оценкой положения для нормального распределения (с точки зрения нескольких критериев). Нормальные, асимптотически нормальные и приближаемые нормальным распределения встречаются достаточно часто, и для них среднее арифметическое естественно. А так, где заведомо ненормальное - там есть и оценки лучше. Медиана для двустороннего Лапласа или среднее геометрическое для логнормального.

[NQD]

Евгений Машеров в сообщении #600900 писал(а):

1. Оно существует всегда (тогда как среднее геометрическое требует положительности, среднее гармоническое - неравенства нулю и т.п.). Более того, его можно естественным образом обобщить на комплексные числа, матрицы и т.п.

Это, вероятно и есть главная причина - среднее геометрическое ведет себя пристойно только в упорядоченных полях и только для положительных значений...