Я так понял, что речь шла о конечномерной ситуации. В бесконечномерном случае может быть так, что два ограниченных (и, следовательно, определённых на всём пространстве) самосопряжённых оператора коммутируют, при этом у одного из них есть собственный базис, а у другого вообще нет собственных векторов (в точном смысле этого слова).
Впрочем, легко показать (и более-менее показано выше), что если у
есть собственный базис и все собственные значения конечнократны, то у любого самосопряжённого оператора, коммутирующего с
, можно выбрать собственный базис, общий с
.
В случае неограниченных самосопряжённых операторов нужно ещё точное определение коммутируемости. В частности,
уже недостаточно для случая, когда один оператор ограничен, а другой нет. Обычно определяют так: два самосопряжённых оператора коммутируют, если коммутируют любые два их спектральных проектора. Это эквивалентно, например, тому что их резольвенты:
и
коммутируют для любых
,
(в этом случае обе резольвенты являются ограниченными операторами).
Обобщение указанного утверждения на произвольные самосопряжённые операторы можно сформулировать в терминах спектральных мер: если
,
,
коммутирует с
, то существует такая спектральная мера
на
, что