Задача интересная (хотя и не в русле начального вопроса)
Неголономность системы следует из того, что 1-форма, задающая связь

неинтегрируема, поскольку

.
Далее, например, действуем по рецепту из книги Неймарка и Фуфаева "Динамика неголономных систем", §2 "Устойчивость и малые колебания неголономных систем вблизи состояний равновесия." стр.264 и далее