ну если область, в которой ищем максимум\минимум, задается не равенством, а неравенством?
Как раз задание области неравенствами - обычная вещь, чего не скажешь о равенствах, тут совсем другая терминология. Я догадываюсь, в чём у Вас проблема.
Рассмотрим непрерывную функцию, заданную на компакте, ограниченном некоторыми поверхностями. В Вашем случае - это шар радиуса 10 с центром в нуле. Непрерывная функция на компакте достигает как наименьшего, так и наибольшего значений. Для начала считаем все точки компакта подозрительными - в любой из них может достигнуться наибольшее или наименьшее значение. Если бы могли перебрать все точки области, то проблемы бы не было. Наша цель ограничить список подозреваемых точек. Пусть в некоторой точке достигнуто (для определённости) наименьшее значение. Где она может оказаться? Есть только два варианта - либо эта точка лежит внутри компакта либо она лежит на границе. В первом случае эта точка является, в частности, точкой локального минимума и следовательно удовлетворяет необходимому условию экстремума, а во втором эта точка, в частности, окажется точкой условного экстремума (см. определение условного экстремума) и необходимому условию должна удовлетворять функция Лагранжа.
В данном случае, наименьшее значение очевидно достигается в центре шара (эта точка и из необходимого условия экстремума тоже вылезает), а наибольшему остаётся достигаться только на границе шара, которая задаётся
равенством.