Почитать можно в книгах про асимптотические методы. Что-то такое есть у Евграфова, кажется, "асимптотические оценки и целые функции". Есть глава по асимптотическим методам в физтеховском учебнике по ТФКП авторов Сидорова, Федорюка, Шабунина. У Федорюка есть еще вроде книжка чисто про асимптотические методы.
Это метод нахождения асимптотик интегралов вида
при
. В случае комплексной
этот метод известен как метод перевала, в вещественном -- метод Лапласа, а в чисто мнимом -- метод стационарной фазы. Тот же прием используется при замене тригонометрической суммы более короткой, когда ищутся асимптотики тригонометрических интегралов. Вам, как теоретико-числовику это должно быть близко. Посмотрите у Карацубы, например. Идея в приближении
и
многочленами Тейлора в окрестности максимума
, потому что именно эта окрестность вносит основной вклад в интеграл при большом
.
В Вашей задаче после отделения крайних слагаемых, дающих
, и применения для гамма-функции формулы Стирлинга (остаток даст опять
) получится что-то вроде