После замены

получится почти гамма-функция.
Такс, сейчас попробую. Получается:

А инструкция по взятию "почти гамма функции" есть где-нибудь?
CBst
Вы и вправду по дисперсии интеграл вычисляете?
Да. Это формула полной вероятности. Дисперсия - случайная величина здесь.
Я отвечу. Да, причём очевидно даже, какая задача решается, только уж очень "в лоб". Судя по интегралу, ищется (только это ещё впереди) УМО

, где

, а

имеет гамма распределение с параметрами

,

. Пока данный интеграл есть просто нормирующая постоянная при условной плотности распределения

при фиксированном

.
Я бы сказала, что ищется байесовская оценка, только выборки не видно. Впрочем, её и завести недолго.
Да, это для байесовского метода оценки. Просто нужно вывести апостериорную плотность для
y.