Но в вашем случае, возможно будет сказываться явление полного внутреннего отражения на сферической поверхности - тут надо геометрическую оптику привлекать.
Это вряд ли.
Скорее так. Если речь идет не о монохроматическом свете, а о всём видимом
спектре, то картина начнет смазываться, когда в соседних кольцах
красная область одного кольца начнет налезать на фиолетовую другого.
Т.е. нужно подобрать минимальные m и n, для которых выполняется
соотношение
, где
и
- радиусы для красного и фиолетового колец.
upd
Да, забыл написать, что m и n должны отличаться на 1.