Обычно степень оператора

определяют так:

Если оператор имеет обратный, можно определить отрицательные степени:

.
Можно в таком общем случае даже назвать некоторые свойства. К примеру,

(доказывается по индукции) и

— для неотрицательных целых

и

(целые только для обратимых операторов).
(Вообще, операторы, как и любые функции, образуют моноид — так что всё, что можно сказать про степени элементов моноида, применимо к степеням операторов. В том числе, это и предыдущие два свойства, никак не использующие «операторность».)
Остальные свойства степени зависят от того, откуда куда оператор действует и есть ли у него какие-то особые свойства (линейный, дифференциальный, сжимающий и т. д.).
UPD. Имелось в виду, что моноид образуют функции из множества в себя.