А если только квадратичная форма вырождена, то необходимо чтобы третья производная вдоль вырождения равна 0.
В случае вырожденной квадратичной формы для функции двух переменных

можно исследовать стационарную точку

на экстремум так. Запишем изменение функции при переходе из точки

в точку

по формуле Тэйлора:

Дифференцирование в формуле

применяется только к

.Тогда

и т.д. в точке

. Если

, то

и

при некотором

и

. Дальше нужно проверить (начиная с номера три в порядке возрастания

), какое из

впервые. Если это

с нечетным номером, то экстремума нет, если с четным, то возможны оба случая (при совпадении знаков

, (там ,где она не равна

) и

экстремум есть), если знаки разные -экстремума нет.