Существует процедура, по которой надо найти матрицу из вторых частных производных, потом выяснить, является ли соответствующая квадратичная форма положительно или отрицательно определённой, либо неопределённой, что в большинстве случаев уже даёт ответ на вопрос об экстремумах. Это не очень просто.
Если мы этого не хотим, можно так. Во всех «спорных» случаях у Вас есть целая плоскость (
или
) или линия (
), на которых функция
принимает одно и то же значение
. Значит, строгого экстремума здесь в любом случае не будет. Далее исследовать, где функция
положительна, где отрицательна и где равна нулю. И для точек, подозрительных на экстремум, выяснить, есть ли у них «знакоопределённые» (вернее, полуопределённые) окрестности.