Пишите выражение для полной энергии, в него войдут три слагаемых: кинетическая энергия поступательного движения, энергия вращения и потенциальная. Считайте, что проскальзывания нет, тогда выразится вся кинетическая энергия через 

, потенциальную найдите, чтобы она выражалась через 

 - угол между вертикалью и прямой проведенной через центр полушара, ортогональной "основанию" этого полушара; в состоянии покоя 

. Потребуется найти момент инерции относительно точки качения, тут в помощь теорема Гюйгенса-Штейнера, также нужно найти центр масс. Когда полный интеграл будет собран, возьмите полную производную 

 это даст вам уравнение движения в виде 

.