Имеются различные толкования одного и того же обозначения, которые и являются источником ошибок. Сначала читаем это:
Обозначим количество чисел в последовательности f(n) на интервале [A, B) -

.
Более подробно:

--- это число членов последовательности

, попавших в интервал

. Далее следует формула:
В случае, если функция g(x) - убывающая, то (4) запишется в виде:
![$P(f,g,A,B)=\frac {\pi(f,A,B)} {[g^{-1}(a)]-[g^{-1}(b)] +1}.(4) $ $P(f,g,A,B)=\frac {\pi(f,A,B)} {[g^{-1}(a)]-[g^{-1}(b)] +1}.(4) $](https://dxdy-04.korotkov.co.uk/f/b/a/9/ba9b6e64c0737fa4a797a1064b6d3dcc82.png)
На самом деле в знаменателе ранее было написано

(см. формулу (2)). Автор зачем-то вводит

и

, которые есть

и

соответственно. Это становится понятно из следующего примера применения этой формулы:
На основании формулы (4) определим плотность распределения последовательности простых чисел в последовательности

на интервале [2,51).

, поэтому обратная функция имеет вид -

. Так как функция

- возрастающая, то выражение (4) имеет вид -
![$P(f,g,A,B)=\frac {\pi(f,A,B)} {[g^{-1}(b)] -[g^{-1}(a)]+1}.(4) $ $P(f,g,A,B)=\frac {\pi(f,A,B)} {[g^{-1}(b)] -[g^{-1}(a)]+1}.(4) $](https://dxdy-03.korotkov.co.uk/f/6/0/7/607569adb79766c871365ff4631e729982.png)
.
![$[g^{-1}(b)] -[g^{-1}(a)]+1=[\sqrt{51-1}]-[\sqrt{2-1}]+1=7-1+1=7$ $[g^{-1}(b)] -[g^{-1}(a)]+1=[\sqrt{51-1}]-[\sqrt{2-1}]+1=7-1+1=7$](https://dxdy-04.korotkov.co.uk/f/7/1/c/71c12910d6a9ea2b2bbcfed02c85d50282.png)
.
Простые числа в последовательности

на интервале [2,51): 2,5,17,37. Поэтому

.
Следовательно, искомая плотность

.
Здесь

--- последовательность простых чисел. Налицо явное противоречие с определением

, согласно которому

.
Величину

, определяемую формулой (2), автор называет "плотностью последовательности

в последовательности

". Однако неформальный смысл этой фразы противоречит формальному определению этой величины. Как следствие, у автора в разных местах возникают различные толкования величины

, что и является источником неверных выводов.