Условия таковы:

При этом

Найти нужно y и z, которые доставляют экстремум ф-лу J
Процесс решения:

Обозначения:

В них H выглядит чуть попроще:

Далее записывается система уравнений Эйлера:

Вот здесь-то и возникает вопрос, что делать дальше? Если нужно, могу написать свои попытки продолжения решения.