У меня как-то так получилось, правильно?
Отсюда
И тогда
Покажем, что указанный определитель достигается, например на:
А можете,пожалуйста,объяснить обозначения?Я слабоват в линейной алгебре и довольно сильно сейчас запутался,что есть что в вашем решении. Знаю,что определитель оператора равен произведению собственных чисел, но тут определитель в квадрате,видимо лямбда - не собственные числа, а, возможно, сингулярные, о которых написано выше, но выше тоже написано другое утверждение про их произведение. Заранее спасибо.