Надо максимизировать функцию 

 на поверхности 

 (где 

). Составляем функцию Лагранжа 

. Так вроде как ноль и выходит (в экстремальной точке 

; в другой экстремальной точке 

 получится минус, и на границе, где хоть одна переменная равна нулю и хоть одна бесконечности, тоже или ноль, или минус). Это если ничего не напутал.