Kid_DynamiteВы уверены, что правильно написали первую К.Ф.? Если мне память не изменяет, то перед
![$\[{\lambda _1}{\lambda _2}\]$ $\[{\lambda _1}{\lambda _2}\]$](https://dxdy-04.korotkov.co.uk/f/3/a/a/3aa832a62b250f85b07685aa02fc32a282.png)
и прочими смешанными произведениями коэффициент уж никак не

.
Допустим, Вы исправите эти два коэффициента. После приведения к каноническому виду, Вы, очевидно, получите сумму квадратов (спасибо Лагранжу). Кстати, лучше
![$\[{\lambda _1},{\lambda _2},{\lambda _3}\]$ $\[{\lambda _1},{\lambda _2},{\lambda _3}\]$](https://dxdy-01.korotkov.co.uk/f/4/5/b/45bebe742585b907b2d0d3406034d18b82.png)
обозначить за

, так как это всё-таки замена этих же самых координат, но это уж как Вам удобно. Далее, собственно, получаем замену:
![$$\[\begin{array}{l}
\xi ' = a(x,y,z)\\
\eta ' = b(x,y,z)\\
\zeta ' = c(x,y,z)
\end{array}\]$$ $$\[\begin{array}{l}
\xi ' = a(x,y,z)\\
\eta ' = b(x,y,z)\\
\zeta ' = c(x,y,z)
\end{array}\]$$](https://dxdy-01.korotkov.co.uk/f/c/a/8/ca88b46da242455cb86d47df52fa0f8c82.png)
где

— Ваши слагаемые из канонического вида К.Ф., из них составляем матрицу

и
![$\[{B^T}\]$ $\[{B^T}\]$](https://dxdy-04.korotkov.co.uk/f/3/d/e/3deaf06272839b2c873ab14b1bdbbf4682.png)
, далее вспоминаем, как меняется матрица невырожденного преобразования при переходе от одного базиса к другому
![$\[X' = {({B^T})^{ - 1}}X\]$ $\[X' = {({B^T})^{ - 1}}X\]$](https://dxdy-04.korotkov.co.uk/f/7/f/1/7f15006e3ee7d5d9368ced7937803cb082.png)
, меняем её и получаем искомую замену
![$$\[\begin{array}{l}
\xi = a(x,y,z)\\
\eta = b(x,y,z)\\
\zeta = c(x,y,z)
\end{array}\]$$ $$\[\begin{array}{l}
\xi = a(x,y,z)\\
\eta = b(x,y,z)\\
\zeta = c(x,y,z)
\end{array}\]$$](https://dxdy-02.korotkov.co.uk/f/9/c/0/9c060c4d9dc140714dbf07eaee9ae0e582.png)