(Обещанные подробные пояснения; и на этом всё. :-)
Пусть

- декартовы координаты шайбы в вертикальной плоскости в неподвижной системе отсчёта. В рассуждениях опираюсь на аксиальную симметрию стакана. И считаю поверхность стакана ровной (как на рис. в задачнике), так что центром колебаний шайбы является центр стакана. Тогда за четверть периода колебаний (к моменту времени

) шайба скатывается к нижней точке дна стакана, в его центре; координаты этой точки в этот момент времени приму за начало отсчёта:

А за полпериода (к моменту времени

) шайба поднимается до своей правой точки остановки; при этом стакан подходит к своей левой точке остановки - с координатой

где

как раз и будет амплитудой колебаний стакана:

Этой картинки достаточно, но вот для ясности ещё и аналогичная картинка в начальный момент времени (

):

"Физика" этой задачи сводится, как уже выше отмечалось, к применению закона сохранения проекции суммарного импульса на ось

(ибо имеется симметрия системы к параллельным переносам в горизонтальном направлении) - эта проекция равна нулю, так что:

.
Интегрируя, получим:

,
где

- постоянная интегрирования. Её значение определяем из того, что в момент времени

координата шайбы

и координата стакана

обращаются в ноль; значит,

(Это соответствует всё время равной нулю координате центра масс по оси

.)
Тогда в момент

имеем:

Подставив эти значения координат в уравнение

где

приходим к упоминавшемуся уравнению для амплитуды колебаний стакана:

.
В такой трактовке условий задачи надо ещё знать явный вид функции

описывающей форму внутренней поверхности стакана. В задачнике сказано, что стакан имеет внутренний диаметр

Это можно понять как указание на сферическую форму внутренней поверхности, с радиусом

тогда функция

задаётся формулой для половинки окружности:

, что ведёт к ответу

.
Другая трактовка условий задачи подсказывается рисунком в задачнике - из него можно заключить, что в начальный момент времени

шайба покоится на расстоянии

от оси стакана. В обозначениях приведённого выше рисунка (для

) такое условие гласит:

что с учётом равенств

ведёт к ответу

.
(Ес-нно, при

оба ответа совпадают. Всё. :-)