У
Руста переменная

- это совсем не то же самое, что

у Вас. Эта замена, собственно говоря, и не нужна. Разделяя переменные в последнем уравнении, получим
Если

, то уравнение имеет общее решение
где

- произвольное число. Умножая на

, получим
Если

, то уравнение имеет общее решение
или, после умножения на

,
Этого достаточно, чтобы нарисовать фазовый портрет.
Добавлено спустя 2 часа 24 минуты 55 секунд:
Возможен другой подход. Из Ваших уравнений получаем
или, после деления на

и введения новой переменной по формуле

,

,
1) Если

, то общее решение
2) Если

, то общее решение
3) Если

, то общее решение
4) Если

, то общее решение

и ещё есть частное решение
Во всех случаях константа

определяется из начальных условий.
Из второго Вашего уравнения после деления на

получается уравнение
откуда определяется
(константа

определяется из начальных условий). Во всех случаях интеграл легко выражается через элементарные функции, но я уж не буду всё это выписывать.
Наконец, осталось определить

по формуле
Решение получается, таким образом, в параметрической форме. Из него можно найти всё, что потребуется.
А что за уравнение написано в той "умной книжке"?