Подскажите пожалуйста, где можно прочитать решение этой задачи в более сложных структурах. Например, не на одной границе а не скольких. То есть в слоях.
Была такая книга... Плохо помню, но автор вроде Бреховских. Или что-то похожее. По названию там ясно, что речь идет о слоистых структурах, "Акустика и оптика слоистых сред", вроде. Поищите гуглом на фамилию. Вообще это очень старая тема, связанная с просветлением оптики, в частности.