Нужно сосчитать сумму по натуральным

и

![$$
S=\sum_{px+qy\leqslant pq}\bigl(px+qy\bigr)=p\sum_{x\leqslant q-1}x\left[p-\frac{px}q\right]+q\sum_{y\leqslant p-1}y\left[q-\frac{qy}p\right]=S_1+S_2.
$$ $$
S=\sum_{px+qy\leqslant pq}\bigl(px+qy\bigr)=p\sum_{x\leqslant q-1}x\left[p-\frac{px}q\right]+q\sum_{y\leqslant p-1}y\left[q-\frac{qy}p\right]=S_1+S_2.
$$](https://dxdy-01.korotkov.co.uk/f/4/d/8/4d8237a9620bee9ead1ea36fb3c74c3f82.png)
Имеем
![$$
S_1=p\sum_{x\leqslant q-1}x\left(p-1-\left[\frac{px}q\right]\right)=\frac{p(p-1)q(q-1)}2-p\sum_{x\leqslant q-1}x\left[\frac{px}q\right].
$$ $$
S_1=p\sum_{x\leqslant q-1}x\left(p-1-\left[\frac{px}q\right]\right)=\frac{p(p-1)q(q-1)}2-p\sum_{x\leqslant q-1}x\left[\frac{px}q\right].
$$](https://dxdy-03.korotkov.co.uk/f/2/7/7/277f7e0111f0ce4f5dec3c6877e3b11b82.png)
Последняя сумма выражается через сумму Дедекинда

где

следующим образом:
![$$
\sum_{x\leqslant q-1}x\left[\frac{px}q\right]=-qs(p,q)-\frac{q(q-1)}4+\frac{p(q-1)(2q-1)}6.
$$ $$
\sum_{x\leqslant q-1}x\left[\frac{px}q\right]=-qs(p,q)-\frac{q(q-1)}4+\frac{p(q-1)(2q-1)}6.
$$](https://dxdy-01.korotkov.co.uk/f/c/3/a/c3ad17e82a097b236788b048b4b187c582.png)
Сумма

получается если поменять местами

и

. Потом складываем получившиеся выражения и пользуемся законом взаимности:

Доказательство закона взаимности элементарное, его можно найти у Apostol "Modular functions and Dirichlet series in number theory". Оно небольшое, но нет времени набирать. Его можно совместить с этим рассуждением, кое-где подсократив и выйдет недлинное рассуждение "от основ".