Q_Q писал(а):
если ранг матрицы будет равен 0, то суммма p и q =0
и значит матрица только из нулей, значит такой вектор найдется, верно?
Это, конечно, верно, но является
очень частным случаем. Лучше подумайте над следующей схемой: если ранг квадратичной формы меньше размерности пространства, то в ее каноническом виде есть хотя бы один квадрат переменной с нулевым коэффициентом. Как тогда выписать ненулевой вектор, который обнуляет форму?
Пока я писал, Вы изменили свое сообщение. Все равно, мой комментарий я оставляю, поскольку он поможет Вам думать в правильном направлении.