Вы напрасно возитесь с непрерывностью. Операторы у Вас линейные, поэтому проверять следует их ограниченность.
Как справедливо заметил
LK4D4, это называется неравенством Коши-Буняковского.
потом рассматривается правая часть предыдущего выражения:

и делается вывод**, что:

и

,
Только

, после чего правильно. Однако же следует иметь в виду, что это пока что ещё не доказательство. Пока что доказано лишь, что при таких альфах всё действительно хорошо. А надо ещё доказать, что при остальных -- всё плохо.
Как?... -- Зафиксируйте какое-либо

. И подберите для неё какую-либо функцию

так, чтобы сама эта функция принадлежала

, но результат действия на неё оператора уже не принадлежал бы

(просто подходящую степень). Т.е. оператор на этой функции как оператор из

в

не определён. Если теперь взять последовательность таких функций, обнулённых на всё более маленьких окрестностях нуля, то

-нормы таких функций будут стремиться к константе, а на выходе

-нормы соответствующих значений оператора стремятся к бесконечности. Следовательно, оператор не ограничен или, что то же, не непрерывен.
Рассуждаю так:

Вы угадали -- последнее неравенство неверно.
Оператор не обязан быть ограниченым по достаточно тривиальным причинам: из того, что каждая из двух функций принадлежит

, не следует, что их произведение будет тоже принадлежать

.