Да ограниченность оператора сильно ограничивает, даже в минимальном подпространстве образованном полиномами от x не удается сделать ограниченном оператор дифференцирования.
Среди нелинейных операторов интересно найти для начала полиномиальные, например
.
Для нелинейных операторов по видимому и понятие ограниченности надо несколько видоизменить, а именно А ограниченный оператор, если ||Ax-Ay||<C||x-y||. В некотором смысле это означает ограниченность коэффициента Липшица и совпадает с вашим для линейных операторов.