вообще если одно из собственных чисел равно 0, то уравнение должно получится параболического типа, а получились прямые.
должно, но только если вторая переменная после поворота не исчезает. А у Вас -- исчезает. В этом вырожденном случае действительно получаются две параллельные прямые.
(ну или одна прямая, или совсем ничего, если бы случай оказался совсем вырожденным)