А вообще зачем здесь
? Разве в условии говорится не об обычной плотности множества иррациональных чисел?
Исходная формулировка задачи действительно весьма туманна и ее нужно уточнять, но я скорее склонен считать, что
фиксировано и задано (например,
), а фигурными скобками здесь обозначено не множество, а дробная часть числа
. То есть, задача состоит в том, чтобы доказать, что последовательность дробных частей чисел вида
всюду плотна на
. В таком виде это уже более-менее содержательная задача.
В общем, нужно ждать, пока ТС сам не поправит условие так, чтобы оно стало корректным и читалось однозначно.