НУЖЕН БАЗИС ПРОСТРАНСТВА ОРТОГОНАЛЬНЫХ МАТРИЦ! А это уже, кажется линал...
Это ни в коем случае не линал, т.к. ортогональные матрицы не образуют линейное пространство. Соответственно, и о базисе в нём говорить не приходится.
Речь, видимо, о касательном подпространстве к многообразию ортогональных матриц в точке, отвечающей заданной матрице. Любая матрица, близкая к заданной, получается из заданной её умножением на ортогональную матрицу, близкую к единичной. Любую ортогональную матрицу можно получить как произведение матриц элементарных (парных) поворотов, и если она близка к единичной, то и углы этих поворотов малы. Вот эти углы (к примеру) и могут служить локальными координатами.
Или так: если
ортогональна и
тоже (где
-- малая поправка), то
и
, откуда
. Пренебрегая последним квадратичным слагаемым, получим однородную систему линейных уравнений
для неизвестных
. Пространство решений этой системы (сдвинутое на
, конечно) и будет касательным подпространством к многообразию ортогональных матриц в точке
.