Смущает то, что изначально был гиперболоид, а вышел конус?
А! Так Вы потеряли линейную часть
Когда ее тоже учтете в группировке, у Вас там вылезет константа. А сама квадратичная форма нормально приведена.
-- Ср дек 19, 2012 16:16:30 --Очевидно, не делал он согласно ему. Посмотрите на

до и после.
Может ТС хотел написать

Я только 1-ую скобку посмотрел. Остальное, думаю, делалось аналогично.