svv, полагаю, что вид коэффициентов можно получить, устремив 

 к бесконечности. Тогда, с одной стороны,

, где использовано 

С другой, используя асимптотику функции Ханкеля, получаем:

, где 

Отсюда непосредственно следует вид 

. Но меня настораживает лишнее 

.
Кроме того, неясно, чем удобен выбор пары функций 

, а не, например, 

. Не совсем ясен и смысл Вашей фразы
svv писал(а):
Из условия излучения
Догадываюсь, что ответы на оба этих вопроса связаны.