Если же оператор неограничен, то равенство нарушается.
Первое равенство верно вообще всегда, независимо от ограниченности оператора. А второе нарушается тоже независимо от ограниченности; например, оно нарушается для любого компактного, но не конечномерного. Для оператора дифференцирования (если не на конечном промежутке) тоже нарушается, конечно.