Обычно у студентов бывает путаница между матрицами
Связано это с разными "взглядами":
"пассивный взгляд":
пространство считается неподвижным, в нём сменяется базис, и матрица служит преобразованием координат векторов в старом базисе - в координаты в новом базисе;
"активный взгляд":
векторы базиса считаются неподвижным, а всё остальное пространство (его точки) - движущимся, и матрица служит преобразованием координат старых векторов - в координаты новых векторов в том же базисе.
На более строгом языке, "активный взгляд" называется
линейным преобразованием пространства (в частности, поворотом), и выражается
матрицей преобразования (например,
матрицей поворота); а "пассивный взгляд" -
заменой базиса, и выражается
матрицей перехода к новому базису.
Всё дело в том, что для этих случаев используются обратные друг другу матрицы:
Из-за этого и возникает путаница. Особенно в случае поворотов, когда матрицы так похожи. Но надо понимать разницу между этими двумя случаями. Кроме того, это сущностно разные вещи. Например, "активные преобразования" могут быть вырожденными, и выражаться вырожденными матрицами, а "пассивные" - не могут. Более того, "активные преобразования" вообще могут происходить между разными пространствами (исходным и целевым), разной размерности, разной структуры. Тогда они выражаются матрицами не квадратными, а прямоугольными. (Даже если в матрице равное число строк и столбцов, но множества индексов строк и столбцов - разные множества, по сути это прямоугольная матрица.)