Тогда, вполне возможно -- действительно модуль оператора, там операторы все самосопряжены. Правда, чего-то не припомню, чтобы там формально операция модуля использовалась -- уж очень она неестественна. Но я и вообще квантовую механику уже очень плохо помню.
(Формально модуль самосопряжённого оператора -- это
, где
-- это спектральная мера и
-- это спектральное разложение исходного оператора. В принципе, и для более-менее любого оператора
можно определить модуль как
, поскольку оператор под корнем -- самосопряжён и неотрицателен.)