Можно взять какую-нибудь трансверсаль, посчитать отображение Пуанкаре (брать точку на трансверсали и пока решение снова не пересечет ее, делать шаг каким-нибудь методом решения ду - методом Рунге-Кутты например). Ну а дальше попробовать найти неподвижные точки отображения Пуанкаре обычным методом поиска нулей функции
