Что это за группа?

[Борис Лейкин]

Ерунду какую-то сотворил. Что это за группа, вот таких вот матриц, и есть ли про неё какая-нибудь интересная информация?

$$ \left( \begin{array}{ccc} a & \sqrt{1-a^2} \\ \sqrt{1-a^2} & -a \end{array} \right) $$

Матрицы получились самообратимые.
Параметр $a$ я сам не знаю что такое, наверное $a \in \mathbb{R}, a \leqslant 1$.

[PAV]

Это не группа. Она не замкнута относительно умножения.

[Борис Лейкин]

Блин, вот облом, а я думал это группа изометрии (или как её там), преобразований евклидовой плоскости. Попытаюсь вспомнить, как дело было.
Беру я, значит, такую штуку $s^2=x^2+y^2$ и начинаю $x$ и $y$ линейно преобразовывать

$$ \left\{ \begin{array}{l} x'=a_1 x + b_1 y,\\ y'=a_2 x + b_2 y \end{array} \right. $$

А потом $(s')^2=(x')^2+(y')^2$, потом приравниваю $(s')^2=s^2$, и думал я получить преобразования, сохраняющие эту штуку $s^2=x^2+y^2$.

[bot]

Линейное преобразование, сохраняющее эту штуку, является ортогональным. Где-то у Вас в арифметике сбой, в результате которого знак минуса ушёл не туда. Должно было получиться

$$ \left( \begin{array}{ccc} a & \pm \sqrt{1-a^2} \\ \mp \sqrt{1-a^2} & a \end{array} \right) $$

или после переобозначений вот так:

$$ \left( \begin{array}{rrr} \cos \varphi & - \sin \varphi \\ \sin \varphi & \cos \varphi \end{array} \right) $$