например, оператор дифференцирования с областью определения, состоящей из достаточно гладких функций, удовлетворяющих нулевому граничному условию на левом конце (хотя можно фиксировать и любую другую точку). Правда, тут есть одно неуютство: нужно уточнять, в каком смысле "гладких", а это некоторая морока.
Ну тогда давайте уж проще: функции с коэффициентами Фурье

поставим в соответствие функцию с коэффициентами Фурье
Вообще-то речь шла, если я правильно понял, об операторе в пространстве эль-два, а не на.
такие вещи принято специально оговаривать в вопросе