У меня получилось

.
Идея в следующем: найдём

. Оператор

компактен (проверьте), поэтому компактен и оператор

. Он является положительно определенным и его собственные значения равны квадратам

-чисел оператора

. Из известных свойств

-чисел

, поэтому

, где

последовательность занумерованных по убыванию собственных чисел оператора

(в силу теоремы Гильберта-Шмидта эта последовательность существует: спектр

состоит из дискретного ограниченного множества, являющегося точечным спектром, и, возможно, точки 0). Осталось найти

.
Для этого составляем уравнение на собственную функцию (уравнение будет интегральным), приводим его к дифференциальному с некоторыми граничными условиями, решаем и получаем набор

. У меня получилось

.
--
М-м, меня опередили. Ладно, оставлю пост.
Только добавлю, что забыл сказать, что нужно рассмотреть
![$L_2[0;1]$ $L_2[0;1]$](https://dxdy-04.korotkov.co.uk/f/3/f/7/3f79a5adf3f6574ef3d3252a987b8db982.png)
, ибо оно гильбертово со скалярным произведением, соответствующим норме, а норма на его всюду плотном подмножестве
![$C[0;1]$ $C[0;1]$](https://dxdy-01.korotkov.co.uk/f/0/d/a/0da96bfa4bd9e5a775fa86df90a914a382.png)
равна норме на всем пространстве.