Можно ещё догадаться, что "p" -- это то же самое, что и P(t). Однако совершенно непонятно, что такое "py". Кроме того, уточните, что имеется в виду: по одной матрице для каждого из базисов -- или матрица для первого базиса на входе оператора и второго на выходе?
Первый вопрос: найти матрицу перехода из базиса {e} в базис {f}, эту матрицу я нашла.
Затем проверить формулу A[f]=C'A[e]C, где A[f] - матрица в базисе {f}, A[e] - матрица в базисе {e}, C - матрицу перехода из базиса {e} в базис {f}, C' - обратная к ней матрица.
Т.е. необходимо вычислить лишь матрицу оператора A в любом базисе, а по формуле, представленной выше, найти и во втором базисе.
Что такое "py" не могу сказать и сама. Может быть, представить вектор, например,
в базисе {e} и к нему применить оператор A(p), вот только как получить после применения матрицу 3x3!?