Не думаю, что регулярная сетка в pml слоях привнесет хоть-какой-либо эффект
Хм. Ну, может, ошибки не исчезнут, но станут регулярнее :-)
А вообще, какая там величина этих остаточных ошибок, по отношению к исходной волне? Во-первых, может быть, они и так за пределами устраивающей вас (или заказчиков) погрешности, а во-вторых, может быть, она - как раз расчётная для заданных параметров pml-слоя? Во втором случае их можно регулировать, задав слой толще, и более поглощающим.
А что это такое и как его задавать?
Я, видимо, неправильно выразился, я потом увидел в книжке, что "излучающая граница" - это тоже другое название для неотражающей границы. Я имел в виду просто условия Неймана или Дирихле, в которых

или

равны не нулю, а заданной функции. Ровно то, что вы здесь показали:
http://savepic.su/1559058.jpg . Давайте, что ли, о терминологии договариваться.
решение получается все в "иголках" каких-то. Из-за чего вообще такое может быть? Ведь если я эту же задачу в стандартной постановке без pml-слоев, то такого нету, просто волны получаются кривые, но никаких "иголок" нет
Действительно, странно, особенно то, что "иголки" появляются ещё
до того, как волна успела фактически дойти до pml-слоя. Боюсь, ответ в каких-то нюансах численной схемы, как основной, так и для реализации pml-слоя. Что-то на что-то "незаконно" влияет. Подобные "иголки" типичны для несходящихся численных методов, но ничего конкретнее сказать не могу.
В какой степени солвер вам подконтролен? Вы его целиком написали сами, используете написанный коллегой, используете готовый продукт? Отдельно тот же вопрос по генерации сетки. И чуть поподробнее, как вы pml-слой задаёте?
Формально-то он есть, но в научных вопросах мне не помогает совсем, даже спрашивать у него смысла нет никакого.
Это тяжко. Но может быть, он хотя бы порекомендует своего коллегу, к которому вы могли бы обратиться?