Тогда, вполне возможно -- действительно модуль оператора, там операторы все самосопряжены. Правда, чего-то не припомню, чтобы там формально операция модуля использовалась -- уж очень она неестественна. Но я и вообще квантовую механику уже очень плохо помню.
(Формально модуль самосопряжённого оператора -- это

, где

-- это спектральная мера и

-- это спектральное разложение исходного оператора. В принципе, и для более-менее любого оператора

можно определить модуль как

, поскольку оператор под корнем -- самосопряжён и неотрицателен.)