В целом я бы действовал так. Определился с "контрольными точками", в которых нас интересует наличие фотонов. Эти точки берутся как бы в качестве узлов решётки. Определился с числом фотонов. У вас это, видимо, два. Тогда если узлов

, то состояние — это набор

амплитуд того, что фотон 1 находится в узле

, а фотон 2 — в узле

. Это без учёта поляризации, которая, например, в вашем случае, по-видимому, роли не играет.
Рассмотрим полупрозрачное зеркало в такой схеме. Пусть плоскость зеркала вертикальна и в направлении северо-запад — юго-восток. Узлов будет четыре (фотон на севере от зеркала, на юге, на востоке, на западе). Если фотон один, то состояние — четыре комплексных числа. Матрица будет из 16 элементов (порядок состояний СВЮЗ):

Минусы из-за инвертирования фазы при отражении. Для двух фотонов будет матрица 16 на 16.
-- 31.12.2022, 17:29 --Хотя ещё надо направление учесть (фотон летит к зеркалу или от зеркала). То есть узлов вдвое больше и матрица будет 8 на 8 для одного фотона. Матрица будет

, где

— матрица, которую я написал выше. Нижняя половина её — превращающая улетающие состояния в прилетаюшие — искусственная, для соблюдения унитарности, она может быть взята довольно произвольной.