НУЖЕН БАЗИС ПРОСТРАНСТВА ОРТОГОНАЛЬНЫХ МАТРИЦ! А это уже, кажется линал...
Это ни в коем случае не линал, т.к. ортогональные матрицы не образуют линейное пространство. Соответственно, и о базисе в нём говорить не приходится.
Речь, видимо, о касательном подпространстве к многообразию ортогональных матриц в точке, отвечающей заданной матрице. Любая матрица, близкая к заданной, получается из заданной её умножением на ортогональную матрицу, близкую к единичной. Любую ортогональную матрицу можно получить как произведение матриц элементарных (парных) поворотов, и если она близка к единичной, то и углы этих поворотов малы. Вот эти углы (к примеру) и могут служить локальными координатами.
Или так: если

ортогональна и

тоже (где

-- малая поправка), то

и

, откуда

. Пренебрегая последним квадратичным слагаемым, получим однородную систему линейных уравнений

для неизвестных

. Пространство решений этой системы (сдвинутое на

, конечно) и будет касательным подпространством к многообразию ортогональных матриц в точке

.