У меня условия несколько послабее и метод совершенно другой, сейчас я пишу текст. Когда напишу сообщу Вам обязательно.
Да, было бы очень интересно посмотреть.
Может Вам будет интересно еще одно соображение на счет этой задачи. Пусть
такова, что
. Как и раньше рассматриваем некие непрерывные (или даже гладкие) приближения
и решаем соответствующую задачу
,
.
Потом пытаемся перейти к пределу. Пусть
финитна в
. Выберем некоторое
и введем обозначение
. Умножим уравнение на
и проинтегрируем. Получим
где
- некая квадратичная форма от
, полученная интегрированием по частям.
В этом равенстве переходим к пределу и для предельной функции
получаем
Откуда следует
Следовательно (в силу произвольности
), необходимо исследовать только множество таких
, в которых градиент обращается в 0.
Конечно, это просто некий трюк, который далеко не всегда применим, но все же может оказаться полезным.