у Вас всеравно неправильная формула
Разве что общий множитель

в левой части потерян. Но ведь всего не упомнишь. Сейчас подправлю.
все я увидел все Ваши исправления. У нас разные решения.
Выкладываю свое.
Пусть

-- длина свисающего в данный момент времени уонца веревки;

. Через

обозначим угол поворота катушки:

.
В качестве системы переменного состава возьмем катушку с намотанной на нее частью нити. Изменение суммарного кинетического момента точек удаляемых из системы в проекции на ось катушки:

. Следовательно,

[ЮФ Голубев Основы теор. мех]
Закон изменения кинетического момента для катушки с намотанной нитью приобретает вид:

Откуда

или

Выбром единиц измерения времени, можно положить

Окончательно:

Первый интеграл:
