Напишите, какой у вас есть учебник. Посмотрим.
Я смотрел в трех первых попавшихся учебниках - в Boyd "Convex optimization", а также в Сухареве и в Васильеве.
Более распространённый подход состоит в том, когда выпуклую функцию, определённую на подмножестве

, доопределяют на всё

, полагая, что эта функция равна

вне её области определения. А выпуклость функции на

определяют через выпуклость её надграфика. Надграфик - это множество точек

, расположенных выше графика функции. (Здесь везде вместо

может быть некоторое аффинное подпространство

).
Я видел такое расширение в книге Boyd p.68. Там он пишет что если

- выпуклая функция (на всей своей области определения

), то ее расширение

на всё

определяется указанным Вами способом. И это расширение

, определенное на

, будет выпуклой функцией на

. Но я пока не понимаю, как это расширение связано с понятием выпуклости функции на подмножестве области определения (ведь вышеуказанное расширение вводится лишь для функции

, выпуклой на всей области определения

).
По крайней мере, разработчики системы компьютерной алгебры Математика именно так полагают: см. пример в справке, где функция

считается выпуклой в первом квадранте.
Да, похоже что так, спасибо.