И чего Вам дался этот канонический вид?
Ну, я так полагаю, задание такое дадено было. Для удобства лучше кв. форму удвоить, тогда получится

Вместо метода Лагранжа разрешается пользоваться ортогональными преобразованиями? Собственные числа здесь ведь устно считаемы, после чего канонический вид сразу пишется. Если ещё и преобразование переменных надо указать, то потребуется ортогональный базис из собственных векторов найти - тоже устная (ну почти) задача.