Рассмотрим интервал до a(n) и обозначим число элементов в этом интервале b(k) на k - ом шаге. В первом шаге b(1)=a(n), на втором шаге b(2)=b(1)-[b(1)/2], вообще b(k)=b(k-1)-[b(k-1)/k]. Т.е. n=b(k),k>=n. Так как b(k-1)(k-1)/k+1>b(k)>=(k-1)b(k-1)/k, то n=b(n)>=a(n)/n. Что дает n^2/2<a(n)<=n^2. То, что получается такой чудесный коэффициент, по видимому связано с равномерным распределением остатков.
Да только, указанный предел, скорее всего не существует (думаю это несложно доказать). Речь идёт скорее о пределе
.