Ну во-первых, сначало Вам надо было убедиться в существовании экстремальных точек (например используя теорему Вейерштрасса и ее следствие). После определения стационарных точек, воспользоваться достаточными условиями. Т.к. в Вашей задаче нет ограничений неравенств и всего одно ограничение в виде равенства, то эти условия сводятся к одному:
(если всё-таки это не выполнено, брать
). После этого определить характеры точек экстремума (выбрать минимум(ы) и максимум(ы)).
И во-вторых, я бы составил вот такую функцию Лагранжа:
и далее бы рассмотрел два случая: 1)
и 2)
(учитывая условие, что все
не должны одновременно равняться 0).