Пробую так. Честно составим функцию

, ищем экстремумы при ограничениях

. Составляем функцию Лагранжа, приравниваем четыре производные нулю. Выражаем и приравниваем \lambda из двух из трёх первых уравнений, в которых производные по переменным. Получаем три тождества вида

, два других с круговыми перестановками. Складываем их, получается тождество для нахождения экстремумов

Просим помощи у Математики, она волшебным образом раскладывает

Тривиальные экстремумы понятно, осталось разобраться с более длинной скобкой. Наверное, это не так сложно, но я пока не могу сообразить.