Честно говоря, я ваш предельный переход не совсем понял. Если

принадлежит множеству

\

, то что значит, например, равенство

? Ведь

может быть разрывна на

\

или вообще неопределена.
При доказательстве непрерывности

я исходил просто из определения непрерывности на языке "

". Из монотонности

, непрерывности

и плотности

следует, что для любого

в окрестности точки

можно подобрать такие

, что справедливо неравенство

, где

и

(покомпонентно) и

. Тогда, в силу монотонного возрастания

, в качестве

можно взять минимальное из чисел
![$x[1]-x'[1],...,x[n]-x'[n],x''[1]-x[1],...,x''[n]-x[n]$ $x[1]-x'[1],...,x[n]-x'[n],x''[1]-x[1],...,x''[n]-x[n]$](https://dxdy-04.korotkov.co.uk/f/b/3/7/b37c655ffc5391e9739c1c6eb94a6f1282.png)
(здесь
![$x[i]$ $x[i]$](https://dxdy-02.korotkov.co.uk/f/5/9/0/590477282a274be77695e15c11f1bbc482.png)
-

-ая компнента вектора

).
Про глобальный максимум - спасибо. Действительно получается, что в такой постановке утверждение неверно. Чтобы все было хорошо, нужно дополнительно требовать, например, чтобы множество

было выпуклым, а функция

- вогнута (выпукла вверх). Тогда не существует локальных максимумов и минимумов (только глобальные).
На самом деле мне все это нужно для частного случае, когда функция

- линейна, множество

- единичный симплекс, а

- множество рациональных точек в этом симплексе. В этом случае вроде бы утверждение справедливо.