svv, полагаю, что вид коэффициентов можно получить, устремив

к бесконечности. Тогда, с одной стороны,

, где использовано

С другой, используя асимптотику функции Ханкеля, получаем:

, где

Отсюда непосредственно следует вид

. Но меня настораживает лишнее

.
Кроме того, неясно, чем удобен выбор пары функций

, а не, например,

. Не совсем ясен и смысл Вашей фразы
svv писал(а):
Из условия излучения
Догадываюсь, что ответы на оба этих вопроса связаны.