Добрый день. Возникла следующая гипотеза: 

Начал рыть литературу. В Бейтмене-Эрдейи (том 2, пункт 7.7.4) рассмотрен интеграл вида 

 но для 

. В Прудникове (том 2, пункт 2.12.31) также случай 

, 

 не рассмотрен. В Рыжике-Градштейне (6.521) интеграл тот, что надо, но берётся в пределах от нуля до единицы, а в (6.574 - 6.576) опять-таки данный случай не охвачен.
Поэтому я попытался доказать это утверждение самостоятельно. Для этого, сначала свёл его к виду 

 заменой 

. Обозначу далее этот интеграл 

. Поскольку на бесконечности 

, то 

 а из нормировки функций Бесселя следует

Осталось показать, что при 

 выполняется 

. В Прудникове приведён неопределённый интеграл (1.8.3.10): 

 Применительно к данному случаю это даст: 

 В нуле получается ноль, а вот на бесконечности надо разложить функции Бесселя до первого члена (второй пропорционален 

 и в пределе даёт ноль). Таким образом: 
 ![$$=\frac{-1}{\pi\sqrt{\alpha}}\frac{1}{\alpha^2-1}\lim_{x\to \infty}\left[(\alpha-1) \cos((\alpha+1) x)-(\alpha+1)\sin((\alpha-1)x) \right]=$$ $$=\frac{-1}{\pi\sqrt{\alpha}}\lim_{x\to \infty}\left[\frac{\cos((\alpha+1) x)}{\alpha+1}-\frac{\sin((\alpha-1)x)}{\alpha-1}\right] $$ $$=\frac{-1}{\pi\sqrt{\alpha}}\frac{1}{\alpha^2-1}\lim_{x\to \infty}\left[(\alpha-1) \cos((\alpha+1) x)-(\alpha+1)\sin((\alpha-1)x) \right]=$$ $$=\frac{-1}{\pi\sqrt{\alpha}}\lim_{x\to \infty}\left[\frac{\cos((\alpha+1) x)}{\alpha+1}-\frac{\sin((\alpha-1)x)}{\alpha-1}\right] $$](https://dxdy-02.korotkov.co.uk/f/5/1/2/5128b4c324c9e0dc5a0748ccb9319e7c82.png)
Получается, что предел неопределён. И как это понимать? Я где-то сделал ошибку, или рассматриваемая гипотеза неверна?