trarbish
Можно было не представлять матрицу в виде суммы и т.п., а "методом тыка" подобрать значения. В вашем случае ясно, что если взять все переменные единицами, то значением формы будет сумма всех элементов матрицы, а в ней все положительные числа сокращаются.
"взять все переменные единицами" - вы имеете ввиду

и

? Т.е. получится:

Затем перемножив слева и справа на строку и вектор соответственно, получим квадратичную форму в виде многочлена, у которого все коэффициенты отрицательны?
Тоже вариант, да. Хотя как только мы выбрали какие-то определенные числа, то общность доказательства уменьшается.
Я все правильно понял, что вы предложили? Или вы имели ввиду

?
Наконец, критерий Сильвестра тут показал себя с самой неудачной стороны. Сигнатура данной квадратичной формы может оказаться любой от

до

и про знак ни одного конкретного минора из трех ничего определенного сказать нельзя.
Да, критерий Сильвестра в данном примере подвёл :) Я очень долго пытался что-то выдумать, но так и не вышло.