2014 dxdy logo

Научный форум dxdy

Математика, Физика, Computer Science, Machine Learning, LaTeX, Механика и Техника, Химия,
Биология и Медицина, Экономика и Финансовая Математика, Гуманитарные науки




 
 Энтропия
Сообщение23.01.2013, 21:15 
Добрый вечер, многоуважаемые! Помогите, пожалуйста, разобаться с такой задачкой!
Среди дискретных случайных величин с $n$ значениями найти случайную величину $\xi$ с наибольшей энтропией $H(\xi)=\sum_{ i=1}^n p_i \ln \frac {1}{p_i}$

Премного благодарен!

 
 
 
 Re: Энтропия
Сообщение23.01.2013, 22:02 
Вам надо найти максимум $H$ как функции от аргументов $p_1,\ldots,p_n$ при одном вполне ясном условии. Например, методом множителей Лагранжа.

 
 
 
 Re: Энтропия
Сообщение23.01.2013, 22:11 
Только найти не саму случайную величину, а распределение вероятностей $P = (p_1,p_2,\dots,p_n)$ некоторой дискретной случайной величины.

 
 
 [ Сообщений: 3 ] 


Powered by phpBB © 2000, 2002, 2005, 2007 phpBB Group