А есть ли подобная аналогия для потенциальной энергии вращательного движения? Или есть ли такое понятие - потенциальная энергия вращения?
Ну вообще обычно просто рассматривают вращение тела без потенциала (потенциальная энергия равна нулю). Но бывают задачи, когда возникает потенциальная энергия вращения. Например, если приложить внешнее электромагнитное поле, тогда просто добавляется энергия взаимодействия тела при помощи дипольных, квадрупольных и т.д. моментов, поляризуемостей, гиперполяризуемостей и прочего с соответствующими комбинациями электрического/магнитного поля.