Кстати, тригонометрическое решение (на основе нового тождества) получается довольно красивым и прямолинейным.
Хотя этого стоило ожидать, все равно приятно, что это действительно так. Я отвлекся на устранение недочетов в своем доказательстве, поэтому не успел попробовать этот способ. Порекомендую своим студентам, пусть получат удовольствие. (У меня в этом году на удивление неплохие первокурсники-приматы.)
Не продемонстрируете, как здесь работает Дедекинд и вычеты?
По поводу вычетов: общая идея --- пользоваться теоремой 1 из моей статьи про тригонометрические суммы в Мат. просвещении (вып. 23, 2019). Это странно, но именно в таком виде теорему 1 мне не удалось отыскать в литературе. Хотя, казалось бы, ей самое место в каком-нибудь задачнике по ТФКП. Буду признателен, если кто-нибудь даст ссылку на что-то релевантное.
Теперь по поводу сумм. К счастью, дыры в моем рассуждении удалось залатать. Нашу тригонометрическую сумму обозначим

. Тогда имеет место вот что:

. (Это прелестное тождество есть в моей статье, и доказывается оно на основе теоремы 1 довольно просто.) Теперь нужно дать полную формулировку результата.
Утверждение. Если

, то

. Если же

, то

.
Идея доказательства напрашивается сама собой --- индукция по

на основе того самого тождества. Но для шага индукции нужно предварительно доказать лемму о том, что число

представимо в виде

, где

--- некоторое целое число. Эту лемму можно доказывать по-разному. Например, с помощью сумм Дедекинда

где

при нецелом

и

при целом

. Оказывается, имеет место соотношение

(это есть в моей статье). Теперь утверждение леммы очевидно.
Собственно, дыры в моем первоначальном доказательстве (для случая, когда

и

) были искусственными --- я поленился полностью сформулировать утверждение, и индукция поэтому не проходила. А теперь все OK.
Вообще, по-хорошему про эту (почти) целочисленность надо было еще в статье написать, но из-за тогдашнего цейтнота не удалось это сделать. Но зато сейчас развлеклись

Вопрос ко всем читателям этой темы: нужно ли все-таки написать доказательство тождества

с помощью вычетов или будем считать это упражнением для желающих? (В это воскресенье, честно говоря, морально не готов. К тому же в статье есть доказательство похожего тождества.)
Upd. Исправил опечатку в определении

(унаследованную из статьи Grosswald E. Dedekind–Rademacher sums // Amer. Math. Monthly. 1971. Vol. 78, № 6. P. 639-644): суммирование должно начинаться не с

, а с

.
Хотя, строго говоря, нам нужно ее вычислять по модулю

и это немного подпортит красоту.
Да, двойка несколько раздражает.