Да. И
ортогональные преобразования выделяются тем, что сохраняют вид метрики

(см. ниже) -- что и требуется при приведении к каноническому виду.
То есть в наших новых координатах

и

расстояние между точками

и

выражается той же формулой

, что и в старых:

, хотя сами разности изменились.
В преобразовании
Kallikanzaridа (да простит он мне использование его сообщения как антипримера

) фактически в качестве новых координат вводятся

и

(может быть, еще с какими-то множителями). Но после такого преобразования в новых координатах уже нельзя пользоваться привычной формулой для расстояния между точками. Новые оси

и

стали неортогональными, их масштаб изменился (

уже не есть сдвиг на единичное расстояние). Соответственно, коэффициенты при

и

непосредственно уже не годятся, например, для различения круга и эллипса, а позволяют сделать только общий вывод о том, какое у нас коническое сечение.
То есть -- Вы поняли --

не в том смысле ортогональна, что это поворот на

градусов, а в указанном специальном смысле. И таковой

будет при любом

.
К пред-предыдущему сообщению нужно относиться (еще раз говорю) не как к руководству к действию. Это, если угодно, я раскрываю секрет того, как можно быстро, не напрягаясь, придти, например, к выводу, что в вычислениях есть ошибка. Ну, и показываю, что с точки зрения теории матриц мы совершаем классическую, хорошо изученную процедуру: приведение квадратичной формы к диагональному виду ортогональным преобразованием.
Кроме следа можно и нужно проверить определитель. В трехмерном случае можно проверить то же, но более полная проверка -- совпадение всех собственных чисел матриц

и

.
Все формулы я набираю вручную. Я сам хотел спросить окружающих, нет ли какой-нибудь удобной программы.