Вы сказали, что эту замкнутую ситуацию можно представить в виде "очень плотной матрицы".
Не очень плотной, а просто плотной.
С точки зрения вычислительной математики, есть два основных типа матриц: плотные (все элементы квадратной матрицы отличны от нуля) и разреженные (в матрице много нулевых элементов)
Для решения СЛАУ в которых они фигурируют в левой части применяют разные алгоритмы решения.
Так вот МКЭ дает разреженные матрицы большого размера, а МГЭ дает маленькие матрицы но плотные.
Про алгоритмы МГЭ можно почитать в Бреббия. Методы граничных элементов.
Речь там правда идет не про поглащающие границы, а в основном про стандартные ГУ типа Неймана ...
Могу предположить, что в случае нелинейной задачи с этим методом могут возникнуть трудности, поскольку он базируется на фундаментальных решениях, а если у вас через границу должна пройти нелинейная волна, то все может усложниться.