evalf(int(…)) — означает символьно найти интеграл, а затем преобразовать его в формат с плавающей точкой. Для численного вычисления интеграла используется команда evalf(Int(…)). Естественно, численно интеграл может быть вычислен, если он не содержит параметры.
В вашей команде возможно опечатка (должен стоять знак умножения между I и степенью). По-видимому, должно быть:
int(BesselJ(n+1, y)*y^(-n)*exp(I*(aq/y)^(2*n)), y = 0 .. infinity);
Если символьно Maple не сможет вычислить этот интеграл, то попробуйте задать конкретные значения n. По крайней мере, при малых значениях n интеграл берётся.
Большое спасибо! Может Вы еще сможете подсказать, как построить график (по точкам) этого интеграла для конкретного n и изменяющегося параметра (aq) (например, с шагом единица, то есть дискретного)?