Существует процедура, по которой надо найти матрицу из вторых частных производных, потом выяснить, является ли соответствующая квадратичная форма положительно или отрицательно определённой, либо неопределённой, что в большинстве случаев уже даёт ответ на вопрос об экстремумах. Это не очень просто.
Если мы этого не хотим, можно так. Во всех «спорных» случаях у Вас есть целая плоскость (

или

) или линия (

), на которых функция

принимает одно и то же значение

. Значит, строгого экстремума здесь в любом случае не будет. Далее исследовать, где функция

положительна, где отрицательна и где равна нулю. И для точек, подозрительных на экстремум, выяснить, есть ли у них «знакоопределённые» (вернее, полуопределённые) окрестности.