2014 dxdy logo

Научный форум dxdy

Математика, Физика, Computer Science, Machine Learning, LaTeX, Механика и Техника, Химия,
Биология и Медицина, Экономика и Финансовая Математика, Гуманитарные науки




 
 Байесовская вероятность
Сообщение12.11.2011, 18:19 
Помогите разобраться, нигде не найду, где прочитать.
Рассмотрим такую задачу: кидаем мы монетку, выпало у нас уже $n$ орлов и $m$ решек, надо по Байесу оценить вероятность выпадения орла. По слухам должна получиться бета-функция.
В википедии нашлась Байесовская вероятность, но там без всякого доказательства. И не очень понятно.
Говорят (я не знаю, где нормально прочитать), что нужно ввести гипотезы ($H_p$ о том, что искомая вероятность равна $p$), приписать каждой вероятность $p$ и взять матожидание. Как это понимать?

 
 
 
 Re: Байесовская вероятность
Сообщение12.11.2011, 19:58 
Аватара пользователя
Понимать как построение байесовской оценки для параметра $p$ на основании априорной информации о распределении этого параметра (она есть?) и на основании выборки (реально - числа орлов и решек). Байесовские оценки, байесовский подход - в учебниках по математической статистике. Байесовский подход основан на том, что параметр считается случайной величиной с каким-то заранее заданным распределением. Например, если параметр может принимать несколько значений с известными вероятностями (дискретное распределение), то это и есть гипотезы и их вероятности. Чаще логично считать рапсределение параметра непрерывным с некоторой плотностью. Имея выборку, можно найти условную плотность распределения параметра при данной выборке. Математическое ожидание случайной величины, имеющей такую условную плотность, и называется байесовской оценкой параметра.

Можно, например, отсутствие всякой информации о распределении параметра $p$ трактовать как равномерное распределение параметра на отрезке $[0,\, 1]$. Условная плотность распределения параметра при данном числе успехов $X=n$ и неудач $m$ есть $$f_{p|X}(t|n)=\dfrac{\mathsf P(X=n|p=t)\cdot f_p(t)}{P(X=n)} = \dfrac{C_{n+m}^n t^n (1-t)^m}{c(n)} = ct^n (1-t)^m. $$
Здесь в знаменателе константа, от $t$ не зависящая, вычислять которую нет нужды, и в числителе биномиальный коэффициент собраны в нормировочную постоянную $c$ при плотности - как видите - бета-распределения. Итак, условная плотность распределения параметра при априорном равномерном распределении и заданном числе успехов есть бета распределение. Его матожидание есть просто $\dfrac{n+1}{n+m+2}$. Это байесовская оценка для $p$ при данных априорных предположениях.

-- Вс ноя 13, 2011 00:21:08 --

Прочитать: например, А.А.Боровков "Математическая статистика", параграф "Байесовский и минимаксный подходы к оцениванию параметров", пример 2 (более общий случай - вместо равномерного взято бета-распределение). Где-то тут пробегала ссылка на International Encyclopedia of Statistical Science, тот же пример там на ср. 114, пример 2. Тот же пример - Г.И.Ивченко, Ю.И.Медведев "Математическая статистика" - новые издания (например, 2009 г.; в изд. 1984 - нет), пример 11 гл. 3 параграф 6.

 
 
 [ Сообщений: 2 ] 


Powered by phpBB © 2000, 2002, 2005, 2007 phpBB Group