мне непонятно, что хочет ТС и какой механической задаче это соответствует, картинки рисовать надо. Но, во всяком случае, раз есть малый параметр, то можно перейти к переменным действие-угол невозмущенной системы, получится нечто типа

потом понизить порядок с помощью интеграла энергии, и написать гамильтониан с точностью до

,
затем сделать один шаг теории возмущений уже в одночастотной системе. Это уже даст какую-то содержательную информацию о динамике