посмотрел на матрицы переходов и заметил, что базис собственных векторов ортогонален, а векторов, которые получились методом Лагранжа -нет.
Есть понятие эквивалентности квадратичных форм, и есть понятие ортогональной эквивалентности. Второе — более узкое, то есть, эквивалентные квадратичные формы не обязаны быть ортогонально эквивалентными. Метод Лагранжа даёт эквивалентную квадратичную форму, а (ортонормированный) базис из собственных векторов — ортогонально эквивалентную.
Может после ортогонализации они будут одинаковы.
Вряд ли.
Но вопрос теперь в том, в каком из базисов поверхность можно считать в каноническом виде?
В задачнике И. В. Проскурякова по линейной алгебре оба называются каноническими, так что это Вы у своего преподавателя уточняйте, что он имел в виду.