Добрый день! Долгое время вожусь с задачей, пока вообще не понимаю в какую сторону копать. Не даром задача со звёздочкой.
Для

и для любого

последовательность

сходится к неподвижной точке отображения

, где

.
Пока понятно только, что неподвижная точка равна

. Вообще, задачу можно переформулировать как найти предел рекуррентной последовательности

, где

. Она ограниченна и если бы можно было доказать, что монотонна, то тогда существовал бы предел

те как раз

. Но я поигрался, поподставлял всякое и она явно не монотонна. Разве что для

это так и тогда предел существует и равен 0.