Там половинка нигде не это самое?
А вроде как не должна быть тут половинка перед

в определителе матрицы Гессе
http://ru.wikipedia.org/wiki/Гессиан_функции
Это вроде как в приведении квадратичной формы к каноническому виду должна быть половинка, а здесь -- нет..
Где еще могут быть половинки -- не знаю...
-- 20.01.2012, 18:17 --У Вас кривая вообще какого рода? Эллипс, гипербола, парабола, нечто другое. С этим для начала определитесь!
-- Пт янв 20, 2012 18:22:57 --Предположите, что

, где

- максимум. Если измените

на любое маленькое

, т о кривая станет вырожденной. Отсюда пляшите.
Нужно с помощью производных сделать...
-- 20.01.2012, 18:22 --Посмотреть в справочнике или учебнике -- там этот случай должен обсуждаться. Но у Вас всё-таки не он (см. ИСН).
Я посмотрел в справочнике -- тут нет ответа..
http://www.pm298.ru/nper4.php