Надо максимизировать функцию

на поверхности

(где

). Составляем функцию Лагранжа

. Так вроде как ноль и выходит (в экстремальной точке

; в другой экстремальной точке

получится минус, и на границе, где хоть одна переменная равна нулю и хоть одна бесконечности, тоже или ноль, или минус). Это если ничего не напутал.