Д.л.п.
Не все дробно-линейные преобразования имеют такой вид. Например,

не такое, а у него неподвижные точки

.
один из параметров можно исключить, и матрица

будет иметь, например, такой вид:
Это в вещественном случае. В комплексном исключить не получится, потому что требуемое множество размерности 5, а не 4.
pan555Прежде чем думать про структуру группы, надо бы понять, что это за множество топологически. Вам же нужна именно топологическая группа (а то и группа Ли), а не абстрактное разрывное умножение. Топология зависит от того, считаете ли вы тождественное преобразование

.
Если его не считать, то множество всех ваших преобразований раскладывается в произведение

и множества

тех преобразований, у которых неподвижные точки — это диаметрально противоположные точки единичной окружности (для простоты пусть

), так как любое преобразование получается из такого сопряжением при помощи единственного параллельного переноса. У

есть двухлистное накрытие

, если вместо преобразований рассматривать преобразования с пронумерованными неподвижными точками. Далее,

раскладывается как

, где второй сомножитель — это преобразования с неподвижными точками

и

в фиксированном порядке. Итого

неабелева группа, и тем более

неабелева, а поэтому множество ваших преобразований не имеет структуры группы Ли. Зато множество является вещественно аналитическим многообразием.