А искать литературу советую в разделе "алгебра"; посмотрите например Винберга или Дьёдонне... или поновее что-нибудь...
Это — «Dieudonne. linear algebra and geometry.djvu»?
-- Wed Oct 12, 2011 15:12:11 --Наиболее общий случай, который, как я понимаю Вас и интересует, это отражение относительно гиперплоскости - унитарное преобразование, оставляющее на месте все элементы выбранной гиперплоскости.
Полагаю, это, все же, частный случай. У
ewert'а общее.
А под ваш "общий" три из пяти перечисленных топикстартером не попадают.
А какие именно? Вроде все сохраняют норму и неподвижны на гиперплоскости, относительно которой они отражают. (Под отражением я понимаю линейное преобразование, не аффинное.)