Итак:
1. из верного (3.6) при смене знака в (3.7) надо поменять пределы интегрирования.
2. (2.7) верна для положительных
, и её применение в (3.9) неправильно.
Выходит, они в разбили сходящийся интеграл на две несходящиеся части, и хитрым вычитанием бесконечностей получили то, что получили.
Возможен ещё вариант, что после (3.6) подразумевается
- там не очень ясно написано. Конечно, за такое переиспользование переменных надо бить линейкой по рукам, особенно если учесть, что в (3.8)
опять положительна.
Тогда (3.7) правильна для
, (3.8) тоже правильна для
, и получена напрямую из (3.6).
Затем (3.9) опять верна для
, и вывод становится тривиальным, не накладывающим никаких ограничений на
.
Увы, авторы запутались в знаках.