Введем положительно ориентированную декартову систему координат

, с началом в точке подвеса маятника, ось

направлена вертикально вниз. Через

обозначим координаты материальной точки, через

угол отклонения маятника от вертикали.
Лагранжиан системы имеет вид

Дополнительная связь в момент удара:

. Соответствующее уравнение для виртуальных перемещений:

С учетом того, что в момент удара

имеем

Условие сохранения обобщенного импульса до и после удара (в проекции на связь) имеет вид [Аппель Теор Механика, Неймарк Фуфаев Динамика негол. систем., в современном изложении: Болотин Карапетян Кугушев Трещев Теор Механика]:

где

-- обобщенная скорость до удара,

-- обобщенная скорость после удара,

-- виртуальное перемещение на ударной связи.
У нас

.
Уравнения (*), (**) дают два уравнения на

. Третье уравнение -- закон сохранения энергии.
Рекомендую проделать тоже самое для задачи
post674556.html#p674556 там интереснее