dobryaaasha, здесь некоторые замечания к вашим формулам:
В выражениях для

и

(которые, по сути, соответствуют

из поста
http://dxdy.ru/topic61579.html - с чем вы, как я понимаю, знакомы):
1. В числителях у вас написана лишняя двойка: должно быть

,

вместо

,

.
2. Модуль у корней

,

в знаменателях писать не нужно, поскольку по смыслу величин

и

у вас

.
3. Как результат: множители

и

в числителях и знаменателях сокращаются.
В выражении для

:
1. Переменная

в произведении экспонент
![$\exp\left[-\frac{k+U^2}{\sigma^2}\right]$ $\exp\left[-\frac{k+U^2}{\sigma^2}\right]$](https://dxdy-03.korotkov.co.uk/f/6/2/d/62dd1723cc53c93010f97aa7018751ff82.png)
,
![$\exp\left[-\frac{\omega-k+U^2}{\sigma^2}\right]$ $\exp\left[-\frac{\omega-k+U^2}{\sigma^2}\right]$](https://dxdy-01.korotkov.co.uk/f/4/d/9/4d96cba07fe3ab788a392086cc5c019582.png)
сокращается, и оставшаяся экспонента может быть вынесена за интеграл.
2. А вот тут уже серьезная неточность:
Интегрирование по

должно идти по интервалу
![$[0;\omega]$ $[0;\omega]$](https://dxdy-04.korotkov.co.uk/f/7/a/3/7a3620fb65b27200238868e39f15947382.png)
, а не
![$[0; \infty]$ $[0; \infty]$](https://dxdy-04.korotkov.co.uk/f/3/7/d/37d867ff2a9f84c3ca294544ca768b3d82.png)
- как у вас. Разберитесь с этим местом.
(Оффтоп)
Наводящее соображение:

, а знаки этих трех величин совсем не произвольны.
3. На мой взгляд, не было необходимости переходить от функции Бесселя

к ее интегральному представлению:

.
С учетом этих замечаний ваша финальная формула приобретает вид:
![$P(\omega)=\frac{1}{4\sigma^4}\exp\left[-\frac{\omega+2U^2}{\sigma^2}\right]\int\limits_0^\omega I_0\left(\frac{\sqrt{k}U}{\sigma^2}\right)I_0\left(\frac{\sqrt{\omega-k}U}{\sigma^2}\right) dk.$ $P(\omega)=\frac{1}{4\sigma^4}\exp\left[-\frac{\omega+2U^2}{\sigma^2}\right]\int\limits_0^\omega I_0\left(\frac{\sqrt{k}U}{\sigma^2}\right)I_0\left(\frac{\sqrt{\omega-k}U}{\sigma^2}\right) dk.$](https://dxdy-03.korotkov.co.uk/f/2/2/a/22ad78d73921da3033253baa2c5a53a182.png)
После несложных замен переменных интеграл в этой формуле сводится, с точностью до внешнего множителя (разберитесь с этими заменами и внешними множителями сами), к

(

- модифицированная функции Бесселя первого рода первого порядка).
(Оффтоп)
(Здесь я посмотрел в справочник "Прудников А.П., Брычков Ю.А., Маричев О.И. Интегралы и ряды. Специальные функции. Том 2", частный случай формулы 2.15.19.14 - самому выводить было неохота. Кстати, ни Mathematica ни Maple последних версий этот интеграл не знают.)
Окончательный результат для ПРВ величины

имеет вид
![$P(\omega)=\frac{\sqrt{2\omega}}{4U\sigma^2}\exp\left[-\frac{\omega+2U^2}{\sigma^2}\right]I_1\left(\frac{\sqrt{2\omega}U}{\sigma^2}\right),$ $P(\omega)=\frac{\sqrt{2\omega}}{4U\sigma^2}\exp\left[-\frac{\omega+2U^2}{\sigma^2}\right]I_1\left(\frac{\sqrt{2\omega}U}{\sigma^2}\right),$](https://dxdy-03.korotkov.co.uk/f/6/2/5/625fb17ed4e48dd5af9330d1165455cc82.png)
а ПРВ для величины

, соответствующей точке 8 на вашей схеме -
![$P(\nu)=\frac{\nu^2}{\sqrt{2}U\sigma^2}\exp\left[-\frac{\nu^2+2U^2}{\sigma^2}\right]I_1\left(\frac{\sqrt{2}\nu U}{\sigma^2}\right).$ $P(\nu)=\frac{\nu^2}{\sqrt{2}U\sigma^2}\exp\left[-\frac{\nu^2+2U^2}{\sigma^2}\right]I_1\left(\frac{\sqrt{2}\nu U}{\sigma^2}\right).$](https://dxdy-01.korotkov.co.uk/f/c/c/6/cc6e8510ffe16e09aa7662bc6335bcce82.png)
P.S. Я не уверен, что обозначать в одном месте разные ПРВ для различных величин (имеющие разный функциональный вид) одной буквой

с разными аргументами - это хорошая идея. Хотя подражая вашим обозначениям здесь делал именно так.