А вообще зачем здесь
![$\[n\]$ $\[n\]$](https://dxdy-04.korotkov.co.uk/f/3/7/2/372c25682bce98bf410df9de0ce576ee82.png)
? Разве в условии говорится не об обычной плотности множества иррациональных чисел?
Исходная формулировка задачи действительно весьма туманна и ее нужно уточнять, но я скорее склонен считать, что

фиксировано и задано (например,

), а фигурными скобками здесь обозначено не множество, а дробная часть числа

. То есть, задача состоит в том, чтобы доказать, что последовательность дробных частей чисел вида

всюду плотна на

. В таком виде это уже более-менее содержательная задача.
В общем, нужно ждать, пока ТС сам не поправит условие так, чтобы оно стало корректным и читалось однозначно.