Как определить выпуклость функции?

[Tanya Ivanovskaya]

Здравствуйте! У меня стоит такая задача:
$ f(x,y) = 1- \exp\left(-\frac{\left(x-y\right)^2}{\sigma^2}\right)$
$x,y\in [0,255]$
Интуитивно ясно, что для достаточно больших
$\sigma$ функция является выпуклой, потом становится невыпуклой и невогнутой.
Как определитъ, при каких значениях $\sigma$ функция теряет выпуклость?
Пыталась выкрутить это условие для из определения и критериев выпуклости, но пока безрезультатно.

[Brukvalub]

Tanya Ivanovskaya писал(а):

Интуитивно ясно, что для достаточно больших
$\sigma$ функция является выпуклой, потом становится невыпуклой и невогнутой.

Интуиция Вас подводит.

[Tanya Ivanovskaya]

Ой...а как это доказать/проверить?

[Someone]

Tanya Ivanovskaya писал(а):

Ой...а как это доказать/проверить?

Что именно? Что интуиция Вас подводит?

А Вы не пробовали рассмотреть для начала функцию одной переменной

$$\varphi(t)=1-e^{-\frac{t^2}{\sigma^2}}\text{?}$$

[Tanya Ivanovskaya]

$\frac{d^2\varphi}{dt^2} = \frac{2}{\sigma^2}e^{\left(-\frac{t^2}{\sigma^2}\right)}\left(1-\frac{2t^2}{\sigma^2}\right)\geq0$
только при $t^2\leq0.5\sigma^2$
вроде так...

[Brukvalub]

Изменение знака второй производной говорит только об изменении характера выпуклости (функция становится выпуклой вниз), а не о потере выпуклости.

[Tanya Ivanovskaya]

значит, я изначально неправильно сформулировала свой вопрос... Мне необходимо понять, на каких промежутках функция является строго выпуклой вниз.

[Brukvalub]

Для таких целей используют матрицу Гесса.

[Tanya Ivanovskaya]

Т.е. мне достаточно проверить знак собственных значений матрицы Гессе?

[Brukvalub]

Думаю, да.

[Tanya Ivanovskaya]

Понятно, спасибо.