Nxx писал(а):
f'(x)=f(f(x))
Это функциональное уравнение и оно, вообще говоря, может имеет функционал-произвольное множество решений.
Не уверен, что их все можно явно описать.
Решение уравнения, к тому же сильно зависит от области истинности условия

.
Если некоторая
произвольная непрерывно-дифференцируемая монотонная функция

отображает интервал
на непересекающийся с ним (

) интервал
![$[c,d]$ $[c,d]$](https://dxdy.ru/math/214c261ad0550b23180c0ce833e81ef582.png)
, то
доопределив ее на интервал
![$[c,d]$ $[c,d]$](https://dxdy.ru/math/214c261ad0550b23180c0ce833e81ef582.png)
по правилу
![$f(x)=f'(f^{[-1]}(y))$ $f(x)=f'(f^{[-1]}(y))$](https://dxdy.ru/math/07ab993c08e4706a746268ebfbf4f5c782.png)
(где
![$y\in[c,d]$ $y\in[c,d]$](https://dxdy.ru/math/114397b00a8744d692d5230ade03050d82.png)
и
![$f^{[-1]}(y)\in[a,b]$ $f^{[-1]}(y)\in[a,b]$](https://dxdy.ru/math/824bf83d2e101900f2fdb2cc6565142d82.png)
), получим функцию со свойством

в области
![$[a,b]$ $[a,b]$](https://dxdy.ru/math/fe477a2781d275b4481790690fccd15f82.png)
.
Тривиальное решение:

.
Нетривиальную аналитическую функцию

будет найти куда сложнее.
Просящееся в глаза частное степенное решение:

(где

и

), откуда

, то есть

и

, или же
![$c=\sqrt[\alpha]{\alpha}$ $c=\sqrt[\alpha]{\alpha}$](https://dxdy.ru/math/8321fc278e7d32ce086eacf682be8dc282.png)
, но всегда

для всех действительных
- не проходит.
Этому дифференциальному уравнению

соответствует интегральное:

.
Если

, то

.
Условие

можно преобразовать в
- на некотором интервале
![$[0,a]$ $[0,a]$](https://dxdy.ru/math/500488aebe892d6abe04d7ff2fb3ab6382.png)
обратимости функции

.
Согласно правилам дифференцирования сложной функции:
![$f(f^{[-1]}(x))=x$ $f(f^{[-1]}(x))=x$](https://dxdy.ru/math/94964d3ed5fa74875d9e059949d4f82682.png)
,
![$(f(f^{[-1]}(x)))'=1$ $(f(f^{[-1]}(x)))'=1$](https://dxdy.ru/math/0091ac8de0444aba863570be0aad7f1182.png)
,
![$f'(f^{[-1]}(x))f^{[-1]}'(x)=1$ $f'(f^{[-1]}(x))f^{[-1]}'(x)=1$](https://dxdy.ru/math/4101f69bb3a2a8321c8c52b7c5e83e8382.png)
,
что дает производную обратной функции
![$f^{[-1]}'(x)=\frac{1}{f'(f^{[-1]}(x))}$ $f^{[-1]}'(x)=\frac{1}{f'(f^{[-1]}(x))}$](https://dxdy.ru/math/ab30b6f83c56f339f3410282b8a6aeef82.png)
.
Тогда можно записать
![$f^{[-1]}'(x)=\frac{1}{f(x)}$ $f^{[-1]}'(x)=\frac{1}{f(x)}$](https://dxdy.ru/math/f96b15c75a044ab7fe48be5b21cddd2282.png)
.
И проинтегрировав, получим:
![$f^{[-1]}(x)=f^{[-1]}(0)+\int\limits_{0}^{x}\frac{1}{f(x')}dx'$ $f^{[-1]}(x)=f^{[-1]}(0)+\int\limits_{0}^{x}\frac{1}{f(x')}dx'$](https://dxdy.ru/math/a4e7cff15352b35a0ec9729818b3ee5b82.png)
,
или возвращаясь к самой функции

.