Профессор Снэйп писал(а):
Не знаю. Я боюсь, что сейчас глупость напишу, но всё равно хочется свои 5 копеек вставить.
Вот есть край чаши --- замкнутая кривая, диффеоморфная окружности и огибающая ось

. Предположим, что шарик, отпущенный из любой точки края, не достигает высоты

. Тогда точку края будем называть положительной, если шарик, отпущенный из неё, движется в точке максимального подъёма по часовой стрелке и отрицательной, если против.
Ясно, что все точки края одного знака. Может, отсюда надо как-то плясать? И получать противоречие с выпуклостью

Сейчас мы подремонтируем Ваше доказательство.
Очевидно, обобщенные координаты в этой системе можно взять

. Сам вектор я буду обозначать

. Через

будем обозначать проекцию края чашки на плоскость

, это гладкая замкнутая кривая.

-- потнциальная энергия шарика в точке

.
Пусть

-- решение соответствующих уравнений Лагранжа с нулевой начальной скоростью и начальным положением

.
Лемма. Функция

не может стремиться к константе при

.
Действительно, в противном случае мы получили бы предельный цикл, что невозможно в гамильтоновой системе.
Таким образом функция

имеет максимумы и минимумы как функция времени.
Дальше мы будем расcматривать только первый максимум, которого функция

достигает при

. В этом максимуме вектор скорости либо равен нулю, тогда задача решена, либо параллелен горизонтальной плоскости. В том случае, когда вектор скорости параллелен горизонтальной плоскости и не равен нулю ему можно приписать положительное или отрицательное вращение. (Строго говоря пусть

точка минимума функции

. И в точке

задан вектор скорости

Тогда если

то вращение положительное.).
Множество

по определению состоит из тех точек

для которых скорость шарика,
в момент времени когда

достигает первого максимума, имеет положительное направление вращения,

-- соответственно. По теореме о непрерывной зависимости от начальных данных, множества

и

открыты. Значит в множестве

найдутся точки не лежащие в

и

. ЧТД