Да нормально, только это место -
Следовательно,
и
.
- нехорошо (буквы эти уже заняты для других вещей).
Лучше сделать так: Рассматриваем пространство состоящее из решений
соотв-го уравнения второго порядка. В нем есть базис состоящий из двух указанных Вами решений. При обходе нуля эти решения переходят в (Вы уже написали что будет). Получился новый базис. Разложим новый базис по старому - это и будет Ваша матрица (диагональная, кстати...)
Та же конструкция годится и для исходной системы. И вот там Вы и обнаружите все неприятности Ваших неудачных обозначений