Разве? У нас же пространство

, нет? Как в нем может быть больше двух векторов в базисе?
Речь не о том, что в базисе больше двух векторов, а о том, что, вообще говоря, матрица линейного оператора записывается в паре базисов.
Самый распространённый случай - это когда эти базисы в паре совпадают, и тогда говорят "матрица оператора в таком-то базисе".
А вообще, это был намёк на Вашу ошибку, которая допущена в пункте 1).
Если Вы пишете матрицу оператора в каком-то базисе, то её столбцы должны состоять из координат векторов в этом самом базисе.
У Вас не так; поэтому у Вас и получается "гибрид" двух базисов.