Вот минор 3его порядка, он равен нулю. Если матрицу упростить, то минор третьего порядка не будет равен нулю. В ответе ранг матрицы 3, следовательно
следовательно -- опечатка или в условии, или в ответе.
И что, наконец, означает слово "упростить"?
-------------------------------------------------------------------------------------------------
В общем, у Вас там какой-то логический сбой. Вы явно пытаетесь следить за неким
конкретным минором третьего порядка. Который, разумеется, по ходу преобразований матрицы может стать ненулевым -- или, наоборот, обратиться в ноль. Но ведь это ещё ровным счётом ничего не значит. Требуется ведь, чтобы
хоть какой-нибудь минор третьего порядка был ненулевым.