В общем случае есть смысл начать с поиска экстремумов для задачи без ограничений и, найдя, проверить, не лежат ли они уже в заданной области. Если лежат - задача решена, если не лежат - вводим ограничения. Причём ясно, что в задаче с ограничениями экстремумы на границе. И Лагранж.
Но в данном частном случае первый этап излишен. У нас есть слагаемое
, и понятно, что у нас при стремлении y к бесконечности функция стремится к бесконечности, аналогично для минус бесконечности. Можно сразу к Лагранжу.
Или даже без него, выразив x через y соответственно ограничению, но получится сложнее.