Цитата:
Вообще, чтобы перестать путаться, я пользуюсь таким мнемоническим правилом. Пусть базис меняется с помощью оператора перехода

с базиса

на базис

по правилу

. При этом у нас получаются две вещи.
1) Разложение произвольного вектора

. Поскольку, например, в том же компьютере

-ки чисел, представляющие векторы, не несут на себе информации, в каком базисе они записаны, то определить коэффициенты

при разложении по базису

можно так:

и теперь если я умножу вектор

в базисе

на матрицу

, я получу вектор, чьи элементы дают коэффициенты разложения вектора

по новому базису

, но как бы в базисе

.
Плюс -- отсюда можно вытащить и компоненты вектора в базисе

, если известны коэффициенты разложения

по базису

, только уже путём умножения матрицы

на столбец, составленный из коэффициентов

.
2) Если мы знаем матрицу оператора

в базисе

, то действие её на вектор, записанный в базисе

, можно узнать, перегнав такой вектор

в базис

, затем применив оператор

и затем результат снова вернув в базис

, так что преобразование матрицы оператора получается

.
У меня этот вопрос в голове по другому организован. Но я сейчас посмотрел во второй том Кострикина, там точно такое рассуждение, как Вы написали (или, во всяком случае, очень похожее). Мне это как-то не нравится, по-моему, это в книжке не самое удачное место, но замнем.
В любом случае, с формулой

я согласен (сейчас сам заново вывел). Хотя мне почему-то казалось, что должно быть

(я даже подумал сначала, что у Вас именно в этом месте и ошибка). Но это знаете, такая вещь, с этим часто путаница, где прямая матрица, где обратная, где
транспонированая, а где вообще контраградиентная, т.е. обратная к транспонированной (или транспонированая к обратной, что внезапно то же самое:

для любой невырожденной матрицы

).
Пусть теперь

обозначает стандартный базис

, а

---

. Тогда матрица перехода

Пусть

--- оператор, матрица которого в

есть

. Тогда его матрица в стандартном базисе

. Но я посчитал кое-что (а именно, элемент в позиции

этой матрицы), и у меня что-то другое получается. Точнее, в этом месте у нее нуль стоит.
Можно даже детали кой-какие добавить. Чтобы получить искомый элемент, надо посчитать

, где

--- третья строка

, а

--- первый столбец

. У меня получается, что

. После чего

(Заметим, что первый столбец

--- это в точности транспонированная первая строка

, поскольку

ортогональна.)
-- 12.12.2020, 04:01 --любопытная книжка, скажу я вам)
Несомненно. Читайте её неторопливо, часто и вдумчиво, и будет Вам щастье.
методы теории представлений здесь и в самом деле не могут ничем помочь, поскольку все доступные проекторы не различают одинаковых неприводимых представлений, так что, видимо, метод, предложенный Slav-27 -- решить систему уравнений на матрицу перехода такую, что -- единственный. Задавая уравнения системы, мы и зададим информацию о том, сколько и каких одинаковых представлений мы должны отличить.
Вы неправы. Проекторы одинаковых неприводимых представлений действительно не различают, но я же упоминал другой метод. Возьмем неприводимый модуль, т.е. пространство неприводимого представления, возьмем любое линейное отображение из него в тот, который нам надо разложить, усредним это отображение по действию группы (что это за такое усреднение, в Кострикине написано во втором и четвертом параграфах главы, неоднократно), получим

-гомоморфизм из неприводимого модуля в данный, его образ --- подмодуль, потом еще какой-нибудь подмодуль так получим, --- и дело в шляпе !
-- 12.12.2020, 04:05 --P.S. На самом деле даже такой подход часто слишком тяжеловесен, в жизни так не делается, можно проще, но уже не сегодня.