Вынимаем лишний знак доллара из формулы, убираем лишние скобки:


Как разрешить такую систему?
А относительно чего надо её решить? Ясное дело, относительно

. Но однородная система имеет нетривиальное решение не всегда, а только если определитель равен нулю. А уравнение

— это, при заданных

,

и

, условие на «волновое число»

. Решить его можно только численно, и для каждого

оно имеет бесконечное множество решений

. Выбрав в качестве

одно из них, можно найти (с точностью до общего коэффициента) соответствующие

и

.
Есть ли способ заменой избавиться от функций Неймана?
Нет. Чтобы охватить всё множество решений уравнения Бесселя для данного

, помимо

нужно второе независимое решение. Это может быть (по желанию)

, и даже

при нецелых значениях порядка (но не при целых).