Вы не утонили группу и векторное пространство в котором рассматривается представлениею
Не уточнила потому, что меня интересует не какая-то конкретная группа, а общая теория. Например, для

-- нельзя, а для

-- можно. Я думала, может достаточно каких-то свойств связности, компактности и пр. Или все гораздо сложнее?
Если обязательно нужна конкретика, то пусть будут группы

,

.