Я прекрасно понимаю, что гильбертовость вы привели для иронии - для иллюстрации тавтологии. В своем сообщении я написала, что ладно, можно для начала ограничиться гильбертовым случаем. Та моя предыдущая запись никак не была связана с вашей записью, в которой вы помянули гильбертово пространство.
А что касается функций

, для которых

и

- выпуклое множество, то ведь выпуклость множества из

равносильна его связности и такими множествами могут быть только интервалы-отрезки да полупрямые-лучи, ну и сама прямая

, конечно. Так что по крайней мере достаточным условием выпуклости

будет условие непрерывности функции

на всей действительной прямой (ведь непрерывный образ связного множества, коим является

, обязан быть связным). Так что "в аду", т.е. для всюду определенных функций

, выпуклость

следует из непрерывности

.
А непрерывность - удобоваримое условие.
Но вот как быть для следующих по степени сложности отображений, т.е. когда мы перейдем от прямой к плоскости, т.е.

? На плоскости выпуклость множества уже не сводится к его связности...
Все-таки я считаю, что мой вопрос имеет право на существование.
-- 15.02.2014, 01:02 --И решить (то бишь вычислить, найти, сосчитать) интеграл все-таки очень даже возможно, а вовсе не "невозможно", как считают некоторые язвительно выпендриваясь.