Итак, дали мне функцию:

,
где
и сказали охарактеризовать точку
Для начала я нашел градиент, писать не буду - долго, суть в том, что градиент в этой точке равен нулю, значит точка стационарная (уже хорошо)
Дальше, пытаемся составить матрицу Гессе в этой точке
матрица полуопределена, положительно. Я так и не понял до конца что это означает, но похоже что однозначно сказать выпукла ли функция в этой точке сказать нельзя. Пробую найти второй градиент в этой точке (по аналогии с функцией одной переменной, если вторая производная в этой точке обращается в ноль, то это точка перегиба)...
Нашел второй градиент в этой точке:
значит не точка перегиба. Остается вариант - седловая точка, но как это доказать математически?
Вот, вобщем может кто поможет?
P.S. Забыл написать, предмет - Методы оптимизации