keksman,
с тех пор, как Вы поняли, что искомые экстремумы лежат на границе области, задачка становится совсем простой.
У Вас окружность

,

, и этот угол однозначно определяет точку

и значение функции

. По сути,

становится функцией одной переменной

, экстремумы легко ищутся без всяких Лагранжей.
А вы не могли бы объяснить почему?
Так сразу не могу. У меня эти слова почему-то не задерживаются в голове. Но решив задачку двумя способами, я, наверное, в очередной раз сразу пойму, почему предложенный выше способ и метод множителей Лагранжа эквивалентны.