Вообще пост был совсем о другом, как-то странно Вы его поняли. Ну да ладно, нравится Вам критерий Сильвестра. Что мешает Вам его применить? Является ли квадратичная форма (по критерию) положительно (неотрицательно) определенной? А отрицательно (неположительно) определенной? Какой она является? Какой вывод из этого следует - в Вашей задаче?
Критерий Сильвестра не запрещает нулевые миноры, с нулевыми минорами может получиться полуопределенная квадратичная форма, а второй дифференциал с такой формой иногда бывает в точках экстремума (нестрогого), а иногда - нет. То есть не работает не критерий Сильвестра, а достаточное условие экстремума в терминах второй производной.
Но совсем необязательно получается именно полуопределенная квадратичная форма. Проще всего - мне лично - смотреть все-таки на канонический вид кв. формы, чем анализировать результаты критерия Сильвестра в "сомнительных" случаях.
(Оффтоп)
Но мне кажется, Вы не совсем понимаете, о чем я. Да?