Поскольку непрерывная функция на компакте достигает наименьшее и наибольшее значение, то Вы должны найти отдельно множество, где достигается минимум, и множество, где достигается максимум. (Множество может состоять не обязательно из одной точки). Возможно Вам поможет аналогия с задачей нахождения собственных чисел и собственных векторов матрицы, соответствующей квадратичной форме. (Точнее не аналогия, а эквивалентность двух задач). Собственные векторы, отвечающие кратному собственному значению образуют (в нашем случае) двухмерное инвариантное пространство. И пересечение этого пространства со сферой будет окружность, соответствующая (в нашем случае) множеству минимума. Максимум достигается в двух точках, лежащих на пересечении сферы и одномерного инвариантного пространства, соответствующего собственному вектору для некратного собственного значения.
Т.е. есть нужно искать собственные числа и вектора, для той матрицы, которую я составил?
на самом деле, не очень понял=)
-- Вс апр 17, 2011 20:13:08 --Найти точку на окружности

Условие задачи симметрично относительно перестановки значит они должны быть равны!
Давайте лучше осознаем, что у
нас Вас получилось в случае

. Получилось, что точка должна лежать в плоскости и принадлежать сфере ...
Про симметрию ясно!