Попробую перевести на немного другой язык.
Оператор

в гильбертовом пространстве называется оператором отражения относительно подпространства

, если

и

.
Явные формулы для такого оператора:
или

,
где

и

-- операторы ортогонального проектирования на само подпространство и на его ортогональное дополнение (какая проще -- зависит от того, размерность какого подпространства меньше). Эти формулы явные, т.к. явно выписываются через ортонормированный базис

подпространства (если, конечно, задача сепарабельна -- например, конечномерна):

.
Оператор

при этом автоматически линеен и самосопряжён (т.к. ортопроекторы -- самосопряжены). Его ортогональность, или унитарность (т.е. сохранение им нормы) проверяется, например, в лоб:
(последнее верно потому, что

и, следовательно,

).
-----------------------------------------
Что казается

. Для оператора отражения это, конечно, верно -- просто потому, что он одновременно унитарен и самосопряжён. Обратно, если

и
плюс к этому оператор

самосопряжен, то это -- оператор отражения. При этом

-- это собственное подпространство, отвечающее его единичному собственному числу (а подпространство

отвечает собственному числу, равному

).