из начала координат проведем окружность радиуса

Я так понял, что Вы не только тетрадки в косую клеточку сыскали, но и циркуль с комплексным раствором?
(или у нас множитель a такой, что удалает мнимости?)Добавлено спустя 20 минут 58 секунд:А вот c точной формулой не разобрался.
e7e5, в левой части формулы, написанной
RIPом, сказано: суммирование ведётся по всем парам

, таким, что

, т.е. по тем числам

, которые удалены от начала координат недалеко и попадают в окружность. Объектом суммирования является единичка, т.к. каждый раз, тыкая пальчиком в такое число, мы прибавляем 1. Т.е. чисто пересчитываем такие числа. Т.е. левая часть просто обозначает, определяет то, что мы намерены сосчитать и не является "формулой". Именно в правой части написано, чему же равен результат такого расчёта.