Насчет леммы Вишика. Даже не знаю, где это вычитал. Вроде бы что то насчет метода Галеркина для коэрцитивных монотонных операторов (типичнейшый примерчик применения). Специально заглянул в Лионса ("Некоторые методы ....") - тоже нет ссылки.
По поводу задачи. Наверное все не так уж и сложно. Как уже отмечалось, знак
роли не играет, считаем его положительным. От противного. Для каждого
найдется единственный элемент
, принадлежащий границе
, такой, что
. Положим
. Если
непрерывна, то это противоречит теореме Шаудера. Что может помешать непрерывности
? Проблемы возникают только лишь если граница
содержит отрезки. (В противном случае используем тот факт, что
принадлежит внутренности
). Но мы пойдем другим путем. Без потери общности считаем, что 0 принадлежит внутренности
. Пусть
. Рассмотрим отображение
. Легко видеть, что оно также удовлетворяет условию задачи. Однако теперь уже можно показать, что для него соответствующее отображение
непрерывно. Устремляя
получим искомый результат.
-- Вс янв 16, 2011 11:13:02 --Пара уточнений.
Первое. Для корректного определения
рассмотрим луч
. По условию задачи, пересечение этого луча с множеством
- невырожденный отрезок. Один конец этого отрезка - точка
, а другой -
.
Второе, для доказательства непрерывности
, достаточно установить, что точка
принадлежит внутренности
.