Обычно степень оператора
определяют так:
Если оператор имеет обратный, можно определить отрицательные степени:
.
Можно в таком общем случае даже назвать некоторые свойства. К примеру,
(доказывается по индукции) и
— для неотрицательных целых
и
(целые только для обратимых операторов).
(Вообще, операторы, как и любые функции, образуют моноид — так что всё, что можно сказать про степени элементов моноида, применимо к степеням операторов. В том числе, это и предыдущие два свойства, никак не использующие «операторность».)
Остальные свойства степени зависят от того, откуда куда оператор действует и есть ли у него какие-то особые свойства (линейный, дифференциальный, сжимающий и т. д.).
UPD. Имелось в виду, что моноид образуют функции из множества в себя.