ewert, спасибо за Ваше замечание. Но я не понял одну вещь. Пусть

- самосопряженный компактный, тогда спектр лежит на вещественной оси и имеет такой вид :

. Если я правильно понял, то Вы хотите сказать, что если наш оператор компактный и самосопряженный, то по теореме Гильберта-Шмидта у него должен быть собственный ортонормированный базис. Поэтому мне нужно найти хотя бы один собственный вектор. И у меня не получится найти его. Вот я не совсем понимаю почему не получится.

Вот например, для оператора

в
![$L^2[0,1]$ $L^2[0,1]$](https://dxdy-01.korotkov.co.uk/f/0/d/2/0d217820daebe4bf760cc245880f831682.png)
понятно почему нет собственный векторов (спектр будет отрезок
![$[0,1]$ $[0,1]$](https://dxdy-03.korotkov.co.uk/f/a/c/f/acf5ce819219b95070be2dbeb8a671e982.png)
и у него нет собственных чисел).