Насчет леммы Вишика. Даже не знаю, где это вычитал. Вроде бы что то насчет метода Галеркина для коэрцитивных монотонных операторов (типичнейшый примерчик применения). Специально заглянул в Лионса ("Некоторые методы ....") - тоже нет ссылки.
По поводу задачи. Наверное все не так уж и сложно. Как уже отмечалось, знак

роли не играет, считаем его положительным. От противного. Для каждого

найдется единственный элемент

, принадлежащий границе

, такой, что

. Положим

. Если

непрерывна, то это противоречит теореме Шаудера. Что может помешать непрерывности

? Проблемы возникают только лишь если граница

содержит отрезки. (В противном случае используем тот факт, что

принадлежит внутренности

). Но мы пойдем другим путем. Без потери общности считаем, что 0 принадлежит внутренности

. Пусть

. Рассмотрим отображение

. Легко видеть, что оно также удовлетворяет условию задачи. Однако теперь уже можно показать, что для него соответствующее отображение

непрерывно. Устремляя

получим искомый результат.
-- Вс янв 16, 2011 11:13:02 --Пара уточнений.
Первое. Для корректного определения

рассмотрим луч

. По условию задачи, пересечение этого луча с множеством

- невырожденный отрезок. Один конец этого отрезка - точка

, а другой -

.
Второе, для доказательства непрерывности

, достаточно установить, что точка

принадлежит внутренности

.