Сначала нужно посчитать собственные значения исходной матрицы.
Если все собственные значения различны, то ЖНФ --- это просто диагональная матрица с собственными значениями по диагонали.
Если же среди с.з. есть кратные, то необходимо составить все возможные варианты для ЖНФ, а потом считать ранги матриц

и

где

--- какая-то из вариантов ЖНФ. Среди

нужно выбрать такую, для котрой все подобные ранги совпадают.
Но вообще-то, было бы лучше, если бы Вы сами попробовали посчитать ЖНФ како-нибудь матрицы из любого задачника по линейной алгебре, а мы бы Вам подсказали, если возникнут какие-то затруднения.