Немного не то. Подход с использованием матрицы плотности здесь не подойдёт, ведь в случае чистых исходных и конечных состояний

это в точности то же самое, что

. То есть использование матрицы плотности вместо вектора состояния ничего не меняет. Он помогает только тогда, когда конечное состояние

получается несепарабельным.
Допустим у нас система

состояла из двух невзаимодейсвующих подсистем

и

. Пусть в процессе эволюции часть

улетела (система открытая) без всякого взаимодействия с

, в то время как

не изменилась (оператор эволюции для неё - тождественный). Для описанной ситуаци имеем оператор

:

, возвращающий первый сомножитель разложения вектора в тензорное произведение, когда оно существует. В противном случае считаем оператор

не определённым на состоянии

.
Исходное состояние

можно переписать в виде

:

.
Для линейного оператора должно быть:
В то время как, например, при

у нас получается:
но:
То есть оператор

получается нелинейным. Вроде так?
Тогда никакие матрицы здесь не помогают.