Составим матрицу перехода

эта матрица перехода от

к

.
Матрица перехода от базиса

к базису

получается так:
Берём координаты вектора

в базисе

и записываем в столбик, в первом столбце матрицы.
Берём координаты вектора

в базисе

и записываем в столбик, во втором столбце матрицы.
Если делать так, матрица получится немножко другая. Пожалуйста, запишите правильный вариант.
Теперь — важная информация, будьте внимательны.
Обозначим матрицу перехода от базиса

к базису

через

. Матрицу, обратную ей, обозначим

.
С помощью

выражаются базисные векторы

через базисные векторы

:
(расписать это символическое равенство по правилам матричного умножения, игнорируя то, что сами элементы являются векторами)И с помощью той же

(не обратной) выражаются координаты

через координаты

:

Наоборот, с помощью

выражаются базисные векторы

через базисные векторы

:

И с помощью той же

выражаются координаты

через координаты

:

Поэтому Вам обращать матрицу не надо. Только запишите её правильно и воспользуйтесь моими формулами. И да, получится почти каноническое уравнение. Я имею в виду, что квадратичная форма от

, которая является частью исходного уравнения, будет приведена к диагональному виду, но ещё может быть необходим сдвиг.
Насколько важна ориентация?
Предлагаю тест.

Посмотрите на левую и среднюю картинку. Возникает ли у Вас «когнитивный диссонанс»? Если да, то ориентация всё-таки важна.
Заметьте, что правую картинку можно превратить в «хорошую», если наклонить голову к левому плечу, но с левой и средней такое не пройдёт — поможет только зеркало.
На заметку. Ориентация векторов базиса

легко проверяется при помощи псевдоскалярного произведения базисных векторов. Это произведение обозначается

и равно просто определителю матрицы перехода. Если получилось положительное число, ориентация совпадает с ориентацией стандартного базиса

. Если отрицательное — не совпадает. Ноль получиться не может, вернее, это будет говорить о линейной зависимости базисных векторов, то есть об ошибке в их вычислении.
В Вашем случае:

Следовательно, базис не только повернули, но и отразили в зеркале.
P.S. Всё, что сказано в этом сообщении, обобщается и на случай

-мерного пространства.