Докажите, что любая окружность с центром в нуле, кроме

, является дугой без контакта для поля. Для этого возьмите значение формы

на вашем поле. А раз контакта нет, то и цикла нет, иначе бы цикл хоть раз, да коснулся бы окружности. То есть, Вам надо найти знак выражения

, где обозначения такие, что исходная система записывается как

. Из того, как ведёт себя этот знак по обе стороны окружности

и делаются выводы об отсутствии других предельных циклов.
Если не знаете, что такое формы и поля, то, просто говоря, требуется найти, входят ли тракетории внутрь окружности или выходят наружу. Для этого можно посмотреть на знак скалярного произведения вектора поля и вектора

. Получится то же самое выражение.
Можно почитать очень полезную для приложений книжку Баутин, Леонтович. "Методы и приёмы качественного исследования динамических систем на плоскости". Или старенькую Андронов, Леонтович, Гордон, Майер. "Качественная теория динамичских систем второго порядка".
-- Вс авг 24, 2014 18:14:32 --я не помню как называется эта теорема
Критерий Бендиксона.