2014 dxdy logo

Научный форум dxdy

Математика, Физика, Computer Science, Machine Learning, LaTeX, Механика и Техника, Химия,
Биология и Медицина, Экономика и Финансовая Математика, Гуманитарные науки




 
 О математическом ожидании
Сообщение07.10.2012, 22:18 
Здравствуйте. Помогите доделать доказательство.Пусть $F(f) = E(|Y-f(X)|\psi(Y))$, где Y принимает значения $\left\{0, 1\right\}$, $\psi(Y) \geq 0$ - некоторая функция, точно знаем $\psi(Y) \geq 0$, а $f\rightarrow\left\{0, 1\right\} $, $X\in A,  A = \left\{x\right\}$. Найти $\min_f F(f)$.
Правильный ответ: $f = 1$ в случае $P\left\{Y = 1|X = x\right\}>P\left\{Y = 1\right\}$ и $f = -1$ в остальных случаях.
Я расписал мат. ожидание:$F(f) = 2\psi(-1)P\left\{Y = -1, f(X) = 1\right\}+2\psi(1)P\left\{Y = 1, f(X) = -1\right\}$. Т.к. мы пытаемся найти оптимальную минимальную $f$, мне кажется, следует минимизировать $P\left\{Y = 1, f(X) = -1\right\}$ и $P\left\{Y = -1, f(X) = 1\right\}$.Распишем $P\left\{Y = 1, f(X) = -1\right\} = P\left\{ f = -1|Y = 1\right\}/ P\left\{ Y = 1\right\} = (1-P\left\{ f = 1|Y = 1\right\})/P\left\{ Y = 1\right\} $. Далее нужно максимизировать $P\left\{ f = 1|Y = 1\right\}/P\left\{ Y = 1\right\}=P\left\{f=1\right\}P\left\{Y=1|f=1\right\}/(P\left\{Y=1\right\})^2$. Аналогично, $P\left\{Y = -1, f=1\right\} = P\left\{f= 1\right\}(1-P\left\{Y = 1| f = 1\right\})/P\left\{Y = -1\right\}^2$. Из второго видим, что достаточно рассмотреть максимум $P\left\{ f=1\right\}P\left\{Y = 1| f=1\right\}$. Далее не пойму, что делать?

 
 
 
 Re: О математическом ожидании
Сообщение08.10.2012, 08:53 
Аватара пользователя
Сформулируйте условия внятно. Ваши вычисления противоречат Вашим же условиям: откуда $\psi(-1)$, если $Y$ принимает значения $0$ и $1$? Что означает "$X\in A$, $A=\{x\}$"? Это что - вырожденное в точке $x$ распределение? Каким образом в ответе может оказаться $f=-1$, если по условию $f$ таких значений принимать не может?

 
 
 
 Re: О математическом ожидании
Сообщение08.10.2012, 11:33 
A - некоторое множество иксов, Y принимает значения -1 и 1 (сделал ошибку), и $f$ тоже принимает значения -1, 1. Суть задачи в том, что надо найти такую функцию $f$ , при котором мат.ожидание будет минимальным.

 
 
 
 Re: О математическом ожидании
Сообщение08.10.2012, 15:54 
Аватара пользователя
NikPersi в сообщении #628151 писал(а):
Аналогично, $P\left\{Y = -1, f=1\right\} = P\left\{f= 1\right\}(1-P\left\{Y = 1| f = 1\right\})/P\left\{Y = -1\right\}^2$. Из второго видим, что достаточно рассмотреть максимум $P\left\{ f=1\right\}P\left\{Y = 1| f=1\right\}$. Далее не пойму, что делать?


Вот это не так, Вы выбросили уменьшаемое, и напрасно. $\mathsf P\left\{f= 1\right\}$ зависит от того, какая $f$.

Вообще ответ, который Вы хотите получить, кажется мне крайне сомнительным. Дословно, $f(x)=1$, если $\mathsf P(Y=1| X=x)>\mathsf P(Y=1)$; иначе $f(x)=-1$. Пусть $X$ и $Y$ независимы. Тогда $f(x)\equiv -1$. В выражении для минимизируемого матожидания остаётся
$$\mathsf E(|Y-f(X)|\cdot \psi(Y)) = 2\psi(1)\mathsf P(Y=1).$$
Но если $\psi(1)\mathsf P(Y=1) \gg \psi(-1)\mathsf P(Y=-1)$, то минимум левой части достигается, наоборот, на $f(x)\equiv 1$. Поэтому сомнительно, чтобы в общем случае без функции $\psi$ дело обошлось.

 
 
 
 Re: О математическом ожидании
Сообщение08.10.2012, 16:39 
Поторопился с $P\left\{f=1\right\}$ :oops: .Ну а величины$X $ и $Y $ зависимы, и ответ правильный. $f$ оптимальное для большинства $\psi$.Кстати $X -  n$-мерная величина(если это как-то поможет)

 
 
 
 Re: О математическом ожидании
Сообщение08.10.2012, 17:11 
Аватара пользователя
Вы не понимаете приведённого контрпримера?

 
 
 
 Re: О математическом ожидании
Сообщение08.10.2012, 22:21 
Аватара пользователя
Вот ещё контрпример, составленный абсолютно наобум, и тем не менее работающий. Что говорит о том, что ответ _очень_ далёк от истины.

Пусть $\psi(-1)=1$, $\psi(1)=2$. Пусть совместное распределение $X$ и $Y$ таково:
$$\mathsf P(Y=-1, X=0)=\mathsf P(Y=-1, X=1)=\mathsf P(Y=1, X=0)=\frac16, \; \mathsf P(Y=1, X=1)=\frac12.$$
Маргинальные распределения такие: $\mathsf P(Y=-1)=\frac13$, $\mathsf P(Y=1)=\frac23$; $\mathsf P(X=0)=\frac13$, $\mathsf P(X=1)=\frac23$.
Наше матожидание равно
$$A:=\mathsf E(|Y-f(X)|\cdot\psi(Y)) = 4\mathsf P(Y=1, f(X)=-1)+2\mathsf P(Y=-1,f(X)=1).$$

Возможны четыре варианта функции $f$:
а) $f(0)=-1$, $f(1)=1$. Тогда $A=4\mathsf P(Y=1,X=0)+2\mathsf P(Y=-1,X=1)=1$;
б) $f(0)=1$, $f(1)=-1$. Тогда $A=4\mathsf P(Y=1,X=1)+2\mathsf P(Y=-1,X=-1)=\frac73$;
в) $f(0)=f(1)=-1$. Тогда $A=4\mathsf P(Y=1)=\frac83$;
г) $f(0)=f(1)=1$. Тогда $A=2\mathsf P(Y=-1)=\frac23$.

Итак, функция $f$, минимизирующая $A$, тождественно равна $1$. В ответе же предлагается брать $f(0)=-1$, потому что
$$\frac16=\mathsf P(Y=1, X=0) < \mathsf P(Y=1)\mathsf P(X=0) = \frac23\cdot\frac 13=\frac29,$$
а $f(1)=1$, потому что
$$\frac12=\mathsf P(Y=1, X=1) > \mathsf P(Y=1)\mathsf P(X=1) = \frac23\cdot\frac 23=\frac49.$$

 
 
 [ Сообщений: 7 ] 


Powered by phpBB © 2000, 2002, 2005, 2007 phpBB Group