Господа, некоторый заскок. Если надо привести квадратичную форму к диагональному виду, то можно использовать метод Якоби. В Ильине и Поздняке написаны явные формулы как высчитывать коэффициенты в каноническом виде - через отношения угловых миноров.
Но если приводить ее не так, а через нахождение собственных чисел и собственных векторов матрицы квадратичной формы, то получается не так.
Например,

Выписываем матрицу А

Ее собственные числа 6, -3, 1
Собственные векторы

и

и

Записываем матрицу Т перехода к этому новому базису

Нормируем, поделив каждый столбец на корень суммы квадратов элементов в нем.
Дальше считаем матрицу А в новом базисе по формуле

Естественно получаем диагональную матрицу с диагональю

Но почему данное приведение приводит к другим результатам чем метод Якоби, где коэффициенты будут равны отношениям угловых миноров. Тут у нас угловые миноры равны

- и из них никак не получить

.