перечитайте определение
Да, по определению вектор

является собственным вектором

, если

и если

.
Для

и из определения ядра

, следует
![$f\left( \left[\begin{array}{cc} 0 & 0 \\ 0 & 0\end{array}\right] \right)= \left[\begin{array}{cc} 0 & 0 \\ 0 & 0\end{array}\right]$ $f\left( \left[\begin{array}{cc} 0 & 0 \\ 0 & 0\end{array}\right] \right)= \left[\begin{array}{cc} 0 & 0 \\ 0 & 0\end{array}\right]$](https://dxdy-04.korotkov.co.uk/f/b/3/5/b35638aad907543139a8acf7ce6d031082.png)
. Потому исходный вектор не собственный вектор.
Если

, имеем
![$f\left( \left[\begin{array}{cc} N-1 & 0 \\ 0 & N-1\end{array}\right] \right)= \left[\begin{array}{cc} 0 & 0 \\ 0 & 0\end{array}\right]=0 \left[\begin{array}{cc} N-1 & 0 \\ 0 & N-1\end{array}\right] $ $f\left( \left[\begin{array}{cc} N-1 & 0 \\ 0 & N-1\end{array}\right] \right)= \left[\begin{array}{cc} 0 & 0 \\ 0 & 0\end{array}\right]=0 \left[\begin{array}{cc} N-1 & 0 \\ 0 & N-1\end{array}\right] $](https://dxdy-01.korotkov.co.uk/f/4/a/f/4af36752e48b38f97ab966a5040a1a4482.png)
. То есть исходный вектор есть собственный вектор с собственным значением

.
найдите все инвариантные подпространства
Нет, знание инвариантных подпространств не предполагается. Есть определение, что эндоморфизм векторного пространства диагонализуем, если существует базис, в котором матрица, представляющая эндоморфизм, диагональна. Ну или эндоморфизм диагонализуем, если в векторном пространстве есть базис из собственных векторов. Или если сумма геометрических кратностей собственных значений равна размерности пространства.
Три собственных вектора, которые я вижу, линейно независимы, но для базиса

их не хватает. Причем, в ответе написано, что этот эндоморфизм диагонализуем для всех

.
-- Пн апр 05, 2010 18:58:28 --Собственные вектора соответствующие различным собственным значениям одного и того же эндоморфизма линейно независимые. Два собственных подпространства соответствующие собственным векторам, которые не принадлежат ядру эндоморфизма, имеют суммарную размерность 2. Собственное подпространство, соответствующее собственным векторам с собственным значением 0, которые принадлежат ядру, имеет размерность 2, так как размерность ядра равна 2. Итого, имеем геометрическую кратность 4 и диагонал. эндоморфизм.
Можно рассуждать так?