Собственные числа оператора (они не зависят от базиса) -- это, очевидно,
и
. Ищем соответствующие собственные векторы в виде
, т.е.
-- координаты собственного вектора в зданном базисе.
Для
это означает, что надо решать систему
Решение единственно (с точностью до постоянного множителя):
. Соответственно, собственный вектор в каноническом базисе:
.
Для
система:
решение:
. собственный вектор:
.
Собственный базис оказался каноническим. Т.е. матрица оператора в каноническом базисе диагональна:
-- и, значит, оператор самосопряжён.
Хотя вообще-то надо было, конечно, просто тупо восстановить матрицу в каноническом базисе по стандартным правилам.