Нужно найти область определения

и выразить

через гамма- или бета-функцию (скорее всего, выразится через бета)

Ну, собственно, что я знаю о бета-функции, то только то, что

А как искать область определения мне вообще не ясно. То есть нужно, насколько я понимаю, найти при каких

данный интеграл существует.
Подскажите хотя бы с чего начать, а там видно будет.