1. По правилам форума все формулы записываются с помощью

, иначе модератор отправит тему в Карантин.
Краткие инструкции:
«Краткий FAQ по тегу math» и видеоролик
Как записывать формулы.
2. Вторая квадратичная форма поверхности — это такое выражение:

Сравните со своим вариантом.

— это из первой квадратичной формы.
3. Вот это выражение и должно быть полным квадратом, то есть

. Раскройте здесь скобки и приравняйте коэффициенты при дифференциалах. Может быть, это поможет исправить ошибку (даже после исправления

на

, вариант

неправильный).
4. Обратите внимание, что при правильной записи формул знак умножения почти никогда не приходится ставить.