Похоже, что в непрерывном случае задача требует корректной постановки. Привожу постановку задачи в дискретном случае. Дано

.

,

,

,

,

. Вычислить

и

.
Очевидно,

.

, и т.д. Наверно за пару дней я смогу получить

в замкнутой форме. Почему то считал, что в интегральной форме ответ получить быстрее. Признаю свою ошибку, был неправ.