В этом случае надо писать не

, а

. Будет фиксирована только велчина

соотношение же

и

будет неопределено. Получим континуум мод. Даже при фиксированной частоте.
В падающей на волновод плоской волне отсутствует

-компонента волнового вектора, поэтому

.
Уравнение для

имеет вид:

Среди решений этого уравнения существуют собственные функции

с дискретным набором собственных значений

, которые экспоненциально затухают вглубь диэлектрика (guided modes), и собственные функции

с непрерывным набором собственных значений

, которые имеют осциллирующий характер внутри диэлектрика (radiation modes). Второй тип решения затухает при увеличении

и на достаточно большом расстоянии от входной плоскости волновода будут распространяться лишь волноводные моды (guided modes).
Цитата:
Хм... А при чем здесь вообще волноводные моды? Они с плоской волной не взаимодействуют

Во всяком случае при отстутствии нерегулярностей. По той простой причине, что невозможно обеспечить условие фазового синхронизма. В общем сплошная путаница. Смысл того, что Вы пишите -- неопределен.
Поскольку записанное уравнение для

представляет собой задачу Штурма-Лиувилля, система собственных функций которой ортогональна и полна (по крайней мере в пространстве непрерывных функций), любое поле на входе можно разложить по этим функциям и найти веса всех мод.
Цитата:
Еще и рентген. Там, между прочем, подход сплошной среды вообще не годится (во всяком случае прямолинейно). Поскольку длина волны сравнима с межатомными расстояниями.
Годится, если не учитывать брэгговскую дифракцию на кристаллических плоскостях, которая возникает только при определенных углах падения.