в данном случае ранг матрицы равен порядку матрицы минус кратность корня?
Да.
1) Возьмём квадратную матрицу
. Получим из неё новую матрицу
вот таким преобразованием:
, где
— невырожденная матрица. Матрицы
и
называются подобными, а само преобразование — преобразованием подобия. Это полезное понятие, потому что именно так преобразуются матрицы линейных операторов при замене базиса.
2) Пусть матрица
вдобавок симметрична, тогда она диагонализируема. Это значит, что некоторым преобразованием подобия из
можно получить диагональную матрицу. Иначе говоря, существует такая матрица
, что
Тогда матрицы
и
тоже подобны при любом
:
,
3) Возьмём определитель от обеих частей предыдущего равенства:
Пусть уравнение
имеет корень
кратности
. Тогда из разностей
ровно
равны нулю.
Значит, на диагонали матрицы
ровно
нулевых элементов, а её ранг равен
.
Известно, что подобные матрицы имеют один и тот же ранг, поэтому и
Рассуждение проходит и в обратную сторону.
Итак, для симметричной (и вообще диагонализируемой) матрицы
:
имеет корень
кратности
P.S. В Вашем задании перед
стоит знак
. Это не проблема.