три диофантовых уравнения с пятью неизвестными

[maxal]

Решить систему уравнений в целых положительных числах $m,n,k,x,y$:

$$\begin{cases} {m \choose 2} + nk = {x \choose 2},\\ {n \choose 2} + mk = {y \choose 2},\\ x + y = m + n + k. \end{cases}$$

(источник)

[Руст]

Случай $k=0$ (может и не надо включать как не положительное значение) дает $m=x,n=y$.
Случай $m=n$ дает решение$k=4m+2, x=y=3m+1.$

[maxal]

Руст - осталось доказать, что других нет...

[Руст]

Пусть $x=m+z, y=n+t$, тогда $k=z+t$ и приходим к уравнению:

$$2nt=z(z-2a-1),$$

$$2mz=t(t+2a-1).$$

Здесь $a=n-m$. Если предположить $a>0$ (симметрично $a<0$) получаем $z>t$ и уравнение
$$\frac{z(z-2a-1}{t}-\frac{t(t+2a-1}{z}=2a$.
Легко проверяется, что при $a>0$ и $z\le t+2a$ слева величина меньше 2а, а при $z\ge t+2a+1$ слева больше $2a$.