Я имел в виду, что нет готовой формулы у нас на предел композиции функций.
Ну... А чего же есть? Только свойства последовательностей? Тогда смело возводите рекуррентное равенство в квадрат: раз вам дают "необоснованную" функцию, можете делать с ней "необоснованные" действия.