Я не очень понял что Вы написали. Мне кажется, Ваше изложение несколько сумбурно. Нужно придерживаться следующего плана:
1) сводим к ДУ 1-го порядка, заменой

. У Вас получается система 2-х уравнений 1-го порядка
2) У нас по прежнему
нелинейное уравнение, а нелинейные уравнения (не это конечно!) решаются точно очень редко. Но, на практике, часто достаточно знать поведение решения в окрестности одной точки - положения равновесия. А это сильно упрощает жизнь. Иногда достаточно линеаризовать нелинейность. Грубо говоря, разлагают нелинейность в ряд в окрестности состояния равновесия и оставляют только линейные слагаемые. В вашем случае точка равновесия

и

, поэтому, если ввести новую переменную

, то линеаризованная система принимает вид
Эта система называется уравнениями в вариациях в окрестности положения равновесия.
3) Осталось её решить с вашими начальными данными. Конечно, можно свести её к ДУ с одной переменной и т.д.
Р.С. Гм. Глядя на Ваше решение у меня возникает вопрос правильно ли я понял, то что Вам нужно. Подумайте и решите подходит ли вам то что я написал.