У меня как-то так получилось, правильно?

Отсюда

И тогда

Покажем, что указанный определитель достигается, например на:

А можете,пожалуйста,объяснить обозначения?Я слабоват в линейной алгебре и довольно сильно сейчас запутался,что есть что в вашем решении. Знаю,что определитель оператора равен произведению собственных чисел, но тут определитель в квадрате,видимо лямбда - не собственные числа, а, возможно, сингулярные, о которых написано выше, но выше тоже написано другое утверждение про их произведение. Заранее спасибо.