Поскольку я сам воспользовался указанием приведенным выше, то решение получилось ровно тоже, что и в задачнике. Его и цитирую.
Напомню стандартный метод. Записываем все силы действующие на шарик в уравнении для движения центра масс. В эти силы входит и силы реакции.
Записываем все моменты относительно центра масс в уравнение изменения момента импульса тела.
И, наконец записываем уравнения связи.
Для центра масс

Тут

- производная вектора скорости.

- сила сцепления , которая приложена к точке касания и не дает ей иметь скорость.
Дальше для момента импульса. Поскольку тело - однородный шар, то тензор инерции переходит просто в число.
![$I \vec{\Omega}'=[\vec{a}\times \vec{f}]$ $I \vec{\Omega}'=[\vec{a}\times \vec{f}]$](https://dxdy-01.korotkov.co.uk/f/4/a/a/4aacb22b2b56c234cfcf5c9647bc2cbb82.png)
Здесь

- вектор идущий от центра шарика к точке касания. численно равен радиусу.
И наконец уравнение связи.
![$\vec{V}+[\vec{\Omega}\times\vec{a}]=0$ $\vec{V}+[\vec{\Omega}\times\vec{a}]=0$](https://dxdy-04.korotkov.co.uk/f/f/7/e/f7e8dc53bb1e15b896662286ffed253b82.png)
Уравнение означает, что скорость точки касания всегда равна нулю.
Теперь используем вращающуюся систему координат связанную с ЦМ. Мы будем использовать циллиндрическую систему координат с осью Z сонаправленной с осью циллиндра.
Координаты шарика

при этом

В случае вращающийся СК обычные векторы проецируются на нее как векторы, а вот производные векторов - нет, поскольку вместе с вектором меняется и ось, на которую он проецируется. Тогда производная настоящая состоит из двух частей(см. Гольдстейн. темы рядом с углами Эйлера)
![$\vec{A}'_x=A_x'+[\vec{\Omega}\,\vec{A}]. $ $\vec{A}'_x=A_x'+[\vec{\Omega}\,\vec{A}]. $](https://dxdy-02.korotkov.co.uk/f/1/d/1/1d1be4904ac0508ad5aec822965e6bd782.png)
Получится что


Теперь спроектируем уравнения на эти оси по соответствующему правилу. Получится девять уравнений. Из уравнений

Здесь, конечно

Выйдет, что



то есть центр масс бегает по окружности с постоянной угловой скоростью независимо от вращений шарика и движения по вертикали. и сила касательная к окружности не действует на шарик.
Это отметает версию, что шарик через некоторое время закрутится в другую сторону.
Дальше самое интересное
Из уравнений




Получим уравнение

Это колебательное уравнение. Следовательно



и самое главное шокирующее уравнение

Как видите, вертикальна координата СОВЕРШАЕТ КОЛЕБАНИЕ. То есть как было высказано ранее шарик то опускается, то поднимается! И это находясь в вертикально расположенном циллиндре!
Движение не происходит по эллипсу, поскольку частота колебаний высоты не обязательно совпадает с частотой движения по окружности равной

Единственный кто смог сказать мне совершенно правильный ответ без вычислений это была моя подружка, не имеющая к механике вообще никакого отношения.- видимо нужна изрядная доля незашеренности для понимания этой задачи =)))
Так же довольно близок оказался
Иван_85 и ,конечно, знающий правильный ответ
Munin