Честно говоря, я ваш предельный переход не совсем понял. Если
![$x$ $x$](https://dxdy-04.korotkov.co.uk/f/3/3/2/332cc365a4987aacce0ead01b8bdcc0b82.png)
принадлежит множеству
![$X$ $X$](https://dxdy-01.korotkov.co.uk/f/c/b/f/cbfb1b2a33b28eab8a3e59464768e81082.png)
\
![$X'$ $X'$](https://dxdy-02.korotkov.co.uk/f/d/e/a/deaa67ea7054ce0a18480a658535949d82.png)
, то что значит, например, равенство
![$\lim G(x'')=G(x)$ $\lim G(x'')=G(x)$](https://dxdy-01.korotkov.co.uk/f/4/1/4/414253f369c27243b8b53d47f8c50eab82.png)
? Ведь
![$G$ $G$](https://dxdy-02.korotkov.co.uk/f/5/2/0/5201385589993766eea584cd3aa6fa1382.png)
может быть разрывна на
![$X$ $X$](https://dxdy-01.korotkov.co.uk/f/c/b/f/cbfb1b2a33b28eab8a3e59464768e81082.png)
\
![$X'$ $X'$](https://dxdy-02.korotkov.co.uk/f/d/e/a/deaa67ea7054ce0a18480a658535949d82.png)
или вообще неопределена.
При доказательстве непрерывности
![$F$ $F$](https://dxdy-04.korotkov.co.uk/f/b/8/b/b8bc815b5e9d5177af01fd4d3d3c2f1082.png)
я исходил просто из определения непрерывности на языке "
![$e-\sigma$ $e-\sigma$](https://dxdy-02.korotkov.co.uk/f/1/6/5/165bf90160e4c8feca784f657e9d9d2782.png)
". Из монотонности
![$F$ $F$](https://dxdy-04.korotkov.co.uk/f/b/8/b/b8bc815b5e9d5177af01fd4d3d3c2f1082.png)
, непрерывности
![$G$ $G$](https://dxdy-02.korotkov.co.uk/f/5/2/0/5201385589993766eea584cd3aa6fa1382.png)
и плотности
![$X'$ $X'$](https://dxdy-02.korotkov.co.uk/f/d/e/a/deaa67ea7054ce0a18480a658535949d82.png)
следует, что для любого
![$e>0$ $e>0$](https://dxdy-04.korotkov.co.uk/f/f/c/7/fc7213c979c1bc5971f318a76204a9eb82.png)
в окрестности точки
![$x$ $x$](https://dxdy-04.korotkov.co.uk/f/3/3/2/332cc365a4987aacce0ead01b8bdcc0b82.png)
можно подобрать такие
![$x', x''\in X'$ $x', x''\in X'$](https://dxdy-04.korotkov.co.uk/f/7/e/2/7e2332cc6d0d2f47a45f45e67fa8c1c682.png)
, что справедливо неравенство
![$G(x')\leqslant F(x)\leqslant G(x'')$ $G(x')\leqslant F(x)\leqslant G(x'')$](https://dxdy-02.korotkov.co.uk/f/9/4/f/94f17384b90da70ef87a798499d7fdfd82.png)
, где
![$x'<x$ $x'<x$](https://dxdy-02.korotkov.co.uk/f/1/8/c/18cb3b6a528b9f0bdbd2010472d3176f82.png)
и
![$x''>x$ $x''>x$](https://dxdy-02.korotkov.co.uk/f/5/0/7/5076fc37a60843250ad1f9782d1ece7782.png)
(покомпонентно) и
![$G(x'')-G(x')<e$ $G(x'')-G(x')<e$](https://dxdy-01.korotkov.co.uk/f/c/c/1/cc19d5948e310d4d131cb2ce8a70ea3482.png)
. Тогда, в силу монотонного возрастания
![$F$ $F$](https://dxdy-04.korotkov.co.uk/f/b/8/b/b8bc815b5e9d5177af01fd4d3d3c2f1082.png)
, в качестве
![$\sigma$ $\sigma$](https://dxdy-01.korotkov.co.uk/f/8/c/d/8cda31ed38c6d59d14ebefa44009957282.png)
можно взять минимальное из чисел
![$x[1]-x'[1],...,x[n]-x'[n],x''[1]-x[1],...,x''[n]-x[n]$ $x[1]-x'[1],...,x[n]-x'[n],x''[1]-x[1],...,x''[n]-x[n]$](https://dxdy-04.korotkov.co.uk/f/b/3/7/b37c655ffc5391e9739c1c6eb94a6f1282.png)
(здесь
![$x[i]$ $x[i]$](https://dxdy-02.korotkov.co.uk/f/5/9/0/590477282a274be77695e15c11f1bbc482.png)
-
![$i$ $i$](https://dxdy-04.korotkov.co.uk/f/7/7/a/77a3b857d53fb44e33b53e4c8b68351a82.png)
-ая компнента вектора
![$x$ $x$](https://dxdy-04.korotkov.co.uk/f/3/3/2/332cc365a4987aacce0ead01b8bdcc0b82.png)
).
Про глобальный максимум - спасибо. Действительно получается, что в такой постановке утверждение неверно. Чтобы все было хорошо, нужно дополнительно требовать, например, чтобы множество
![$X$ $X$](https://dxdy-01.korotkov.co.uk/f/c/b/f/cbfb1b2a33b28eab8a3e59464768e81082.png)
было выпуклым, а функция
![$F$ $F$](https://dxdy-04.korotkov.co.uk/f/b/8/b/b8bc815b5e9d5177af01fd4d3d3c2f1082.png)
- вогнута (выпукла вверх). Тогда не существует локальных максимумов и минимумов (только глобальные).
На самом деле мне все это нужно для частного случае, когда функция
![$G$ $G$](https://dxdy-02.korotkov.co.uk/f/5/2/0/5201385589993766eea584cd3aa6fa1382.png)
- линейна, множество
![$X$ $X$](https://dxdy-01.korotkov.co.uk/f/c/b/f/cbfb1b2a33b28eab8a3e59464768e81082.png)
- единичный симплекс, а
![$X'$ $X'$](https://dxdy-02.korotkov.co.uk/f/d/e/a/deaa67ea7054ce0a18480a658535949d82.png)
- множество рациональных точек в этом симплексе. В этом случае вроде бы утверждение справедливо.