Абсолютно непонятно, где тут уравнение.. Либо это надо рассматривать, как бесконечную систему уравнений? Тогда в Вашем случае оператор

получится справа, если в левой части оставить только

(см. метод простой итерации).
Чтобы доказать существование решения можно показать, что последовательность фундаментальна.
Зачем фундаментальность, если достаточно доказать, что отображение -- сжимающее (если задача именно на принцип сжимающих отображений)
-- 11.04.2018, 16:39 --Оператор

выглядит так:
![$Ax=\left(1-\sum\limits_{m=1}^{\infty}\frac{\ln(\arctg(x_m)+1)}{m^5 +\sqrt[4]{1}+10 }, 1-\sum\limits_{m=1}^{\infty}\frac{\ln(\arctg(x_m)+1)}{m^5 +\sqrt[4]{2}+10 },...\right)$ $Ax=\left(1-\sum\limits_{m=1}^{\infty}\frac{\ln(\arctg(x_m)+1)}{m^5 +\sqrt[4]{1}+10 }, 1-\sum\limits_{m=1}^{\infty}\frac{\ln(\arctg(x_m)+1)}{m^5 +\sqrt[4]{2}+10 },...\right)$](https://dxdy-04.korotkov.co.uk/f/b/3/a/b3ad20937af19394c7d9f480b911feba82.png)
.
Дальше пробуйте проверить, что

,
