Вот была матрица

с (нормированными) собственными векторами

и соответствующими значениями

. Тогда

.
После замены координат новая матрица есть

. При умножении

на

мы по сути умножаем

на каждый столбец матрицы

, и результат этого умножения будет столбцом матрицы

, то есть

. Далее мы умножаем на

слева. Чтобы понять, почему получится диагональная матрица, воспользуйтесь свойствами собственных векторов симметричной матрицы.