Классная задачка! Всегда завидовал людям, которые умеют придумывать такие штуки.
И так первое, что надо сделать это убедиться в том, что задача корректна т.е. что движение в окрестности нарисованного положения вообще возможно.
Введем систему координат
так, что ось
проходит через точку
. Положения точек
и
на окружностях будем задавать углами
и
соответственно, так, что
Отметим, что в положении, указанном на рисунке (
) будет
.
Введем функцию
. Конфигурационное пространство системы это множество точек на двумерном торе
. Гладким многообразием это пространство не является, а чем является при различных значениях параметров -- отдельный интересный вопрос. Нас этот вопрос интересует только в окрестности точки
.
Легко посчитать, что точка
является невырожденной критеческой точкой функции
типа "седло". Поэтому множество
в окрестности этой точки представляет собой объединение дух гладких кривых.
Что бы решать задачу дальше нам придется указать по какой из этих кривых происходит движение.
Теперь остается продифференцировать несколько раз по времени уравнение
и найти
при
.