Насчет леммы Вишика. Даже не знаю, где это вычитал. Вроде бы что то насчет метода Галеркина для коэрцитивных монотонных операторов (типичнейшый примерчик применения). Специально заглянул в  Лионса ("Некоторые методы ....") - тоже нет ссылки. 
По поводу задачи. Наверное все не так уж и сложно. Как уже отмечалось, знак 

 роли не играет, считаем его положительным. От противного. Для каждого 

 найдется единственный элемент 

, принадлежащий границе 

, такой, что 

. Положим 

. Если 

 непрерывна, то это противоречит теореме Шаудера. Что может помешать непрерывности 

? Проблемы возникают только лишь если граница 

 содержит отрезки. (В противном случае используем тот факт, что 

 принадлежит внутренности 

). Но мы пойдем другим путем. Без потери общности считаем, что 0 принадлежит внутренности 

. Пусть 

. Рассмотрим отображение 

. Легко видеть, что оно также удовлетворяет условию задачи. Однако теперь уже можно показать, что для него соответствующее отображение 

 непрерывно. Устремляя 

 получим искомый результат.
-- Вс янв 16, 2011 11:13:02 --Пара уточнений. 
Первое. Для корректного определения 

 рассмотрим луч 

. По условию задачи, пересечение этого луча с множеством 

 - невырожденный отрезок. Один конец этого отрезка - точка 

, а другой - 

.
Второе, для доказательства непрерывности 

, достаточно установить, что точка 

 принадлежит внутренности 

.