Могу ошибаться, но насколько понимаю, ситуация тут такова. Есть исходное преобразования Фурье

, где

- пространствно равномерно-непрерывных ограниченных функций. Можно рассматривать его сужения, например, на класс

функций, удовлетворяющих во всех точках условию Дини. В этом случае он становится обратимым как оператор

(обратный задается через упоминавшуюся ранее формулу с

). Если еще больше сузить, например, на класс

функций с интегрируемой второй производной, то оператор

помимо того, что будет обратим, станет еще и оператором в

(в отличие от предыдущих, которые не гарантировали абсолютную интегрируемость фурье-образа). В этом случае наступает симметрия между прямым и обратным преобразованиями Фурье.
Теперь насчет

. Само исходное преобразование

на нем не определено. Поэтому пытаются ввести "расширенное"

, наподобие:
где, заметьте,
сходимость понимается уже в среднеквадратичном. В этом случае, если не ошибаюсь,

автоматически становится обратимым оператором из

в

. Обратный, по-видимому (никогда не сталкивался), тоже считается через формулу обратного преобразования, в которой используется предел в среднеквадратичном.
Как-то так...