g______dДа, только в формуле там также ошибка: должен быть минус. И не нужна такая изощрённая замена с корнями, т.к. исходное выражение

это и есть удвоенная тригонометрическая замена. Т.е.

Если вместо арккотангенса написать арктангенс, тогда конечно минус нужен.
А вообще тема довольно интересная.
Много информации есть в книге Нечепуренко М.И. "Итерации вещественных функций и функциональные уравнения"
В частности там рассматриваются и итерации дробного порядка, которыми, как я понял, вы также интересуетесь.