Так. Я правильно понял?: Пусть

и

- ближайшая точка к

с целыми кординатами и ограниченна ли последовательность, например,

?
Так, для углов

последовательность очевидно зациклится, цикл будет иметь 4 точки.
-- Ср мар 17, 2010 13:59:21 --Рассмотрим последовательность

. Обозначим отображение

. Для некоторого

множество целых точек делится на 2 множества: точек, с радиус-вектором

и с

. Точки с

группируем в множества с одинаковым

. Последовательность

ограниченна

. Ясно, что если для точки

с наибольшим

для любого

, то и вообще для любой

для любого

. Выберем

, где

- простое число вида

. Тогда во множестве точек с целыми координатами есть лишь 4 точки

с наибольшим

, причем они при повороте на

переходят друг в друга. Тогда несложно подобрать

. Например можно взять настолько малое

, чтобы

. Соответственно получаем бесконечное множество случаев, когда последовательность ограниченна.
З.Ы. Наверное, это дурацкое решение. Возможно тут все гораздо проще.
P.P.S. Я эту проблему никогда не видел.