Напишите, какой у вас есть учебник. Посмотрим.
Я смотрел в трех первых попавшихся учебниках - в Boyd "Convex optimization", а также в Сухареве и в Васильеве.
Более распространённый подход состоит в том, когда выпуклую функцию, определённую на подмножестве
![$R^n$ $R^n$](https://dxdy-04.korotkov.co.uk/f/7/3/9/73915ecf85c52fbc3bf42267f60059e482.png)
, доопределяют на всё
![$R^n$ $R^n$](https://dxdy-04.korotkov.co.uk/f/7/3/9/73915ecf85c52fbc3bf42267f60059e482.png)
, полагая, что эта функция равна
![$+\infty$ $+\infty$](https://dxdy-04.korotkov.co.uk/f/7/0/1/701fa44621fd283e3f2c5468958859d882.png)
вне её области определения. А выпуклость функции на
![$R^n$ $R^n$](https://dxdy-04.korotkov.co.uk/f/7/3/9/73915ecf85c52fbc3bf42267f60059e482.png)
определяют через выпуклость её надграфика. Надграфик - это множество точек
![$R^n$ $R^n$](https://dxdy-04.korotkov.co.uk/f/7/3/9/73915ecf85c52fbc3bf42267f60059e482.png)
, расположенных выше графика функции. (Здесь везде вместо
![$R^n$ $R^n$](https://dxdy-04.korotkov.co.uk/f/7/3/9/73915ecf85c52fbc3bf42267f60059e482.png)
может быть некоторое аффинное подпространство
![$R^n$ $R^n$](https://dxdy-04.korotkov.co.uk/f/7/3/9/73915ecf85c52fbc3bf42267f60059e482.png)
).
Я видел такое расширение в книге Boyd p.68. Там он пишет что если
![$f$ $f$](https://dxdy-02.korotkov.co.uk/f/1/9/0/190083ef7a1625fbc75f243cffb9c96d82.png)
- выпуклая функция (на всей своей области определения
![$X = \mathrm{dom}f \subseteq \mathbb{R}^n$ $X = \mathrm{dom}f \subseteq \mathbb{R}^n$](https://dxdy-03.korotkov.co.uk/f/2/9/6/2964385ec020611bfa6339beb2f091d882.png)
), то ее расширение
![$\tilde f$ $\tilde f$](https://dxdy-04.korotkov.co.uk/f/7/d/9/7d92ad7db89300b71399ec3e3af93ee482.png)
на всё
![$\mathbb{R}^n$ $\mathbb{R}^n$](https://dxdy-01.korotkov.co.uk/f/8/a/8/8a86f4a11e2fbfc03de61d587ba826de82.png)
определяется указанным Вами способом. И это расширение
![$\tilde f$ $\tilde f$](https://dxdy-04.korotkov.co.uk/f/7/d/9/7d92ad7db89300b71399ec3e3af93ee482.png)
, определенное на
![$\mathbb{R}^n$ $\mathbb{R}^n$](https://dxdy-01.korotkov.co.uk/f/8/a/8/8a86f4a11e2fbfc03de61d587ba826de82.png)
, будет выпуклой функцией на
![$\mathbb{R}^n$ $\mathbb{R}^n$](https://dxdy-01.korotkov.co.uk/f/8/a/8/8a86f4a11e2fbfc03de61d587ba826de82.png)
. Но я пока не понимаю, как это расширение связано с понятием выпуклости функции на подмножестве области определения (ведь вышеуказанное расширение вводится лишь для функции
![$f$ $f$](https://dxdy-02.korotkov.co.uk/f/1/9/0/190083ef7a1625fbc75f243cffb9c96d82.png)
, выпуклой на всей области определения
![$X$ $X$](https://dxdy-01.korotkov.co.uk/f/c/b/f/cbfb1b2a33b28eab8a3e59464768e81082.png)
).
По крайней мере, разработчики системы компьютерной алгебры Математика именно так полагают: см. пример в справке, где функция
![$f(x,y):=x^3+y^3$ $f(x,y):=x^3+y^3$](https://dxdy-04.korotkov.co.uk/f/b/6/1/b61a0a3710712a63570a44c2b8c5298782.png)
считается выпуклой в первом квадранте.
Да, похоже что так, спасибо.