у меня получилась диагональная матрица
Ох уж этот формализм. Ну нафига какой-то критерий, если из знаков коэффициентов перед квадратами в
сразу ясно какой у Вас случай: определённость, положительная или отрицательная, полуопределённость или знакопеременность.
Ровно то же и из знаков собственных чисел - ведь второй дифференциал приводится ортогональной заменой к сумме квадратов с коэффициентами, а они и есть собственные числа. Можно без вычисления собственных чисел обойтись, что в случае 5 переменных и более может привести к неразрешимому в радикалах уравнению - привести квадратичную форму к сумме квадратов просто линейным (не ортогональным) преобразованием методом их последовательного выделения - называется методом Лагранжа.
Различные признаки (тот же критерий Сильвестра) придуманы в частности для того, чтобы в случае трудоёмкости указанных способов, эту трудоёмкость обойти. А теперь повторю, нафиг обходить очевидное, какую-то матрицу составлять, миноры считать?
А вот, к примеру, получится у Вас для функции трёх переменный в исследуемой точке
,
, ... или
и что скажете, если воспользуетесь критерием Сильвестра?
Некоторые пишут что-то вроде - в этой точке неопределённый экстремум. Правильный ответ, если понимать это так, что автор ответа расписался в собственной беспомощности - ничего определённого сказать не смог.