dima_1985 прав, надо использовать стандартный способ. Он включает исследование поведения функции на границе области.
Я понимаю, что остаётся вопрос: «Да, я знаю (или не знаю) этот способ. А всё-таки, правильно ли моё решение, и если нет, то в чём ошибка?»
2)Заметим следующее: чем больше число под радикалом и переменная

тем больше значение функции

. Для этого сумма квадратов

должна быть минимальной, а

как можно большим.
Проблема в том, что это противоречивые требования: если погнаться за минимальной суммой квадратов, получим

. Если увеличить

,
не будет минимальной сумма квадратов. Очень трудно найти золотую середину из таких соображений.
причем,

должен быть отрицательным
Это вряд ли. Легко видеть, что значение суммы квадратов не изменится, если поменять знаки у

и

одновременно.
Тут всё неправильно. Значение первого квадрата минимально при

, второго при

, но сумма минимальна при

. Отсюда правильное «соотношение» между

и

вывести нельзя.
Ещё одна ошибка — то, что Вы применяете связь между

и

, найденную из анализа подкоренного выражения, ко всей функции. Но наличие

может привести к тому, что координаты точки экстремума уже не будут удовлетворять этой связи.