... вряд ли можно что-то предложить, кроме непосредственного вычисления.
Хорошо. Последняя попытка. Начнем с примера:

. Находим

:

. Наименьшее решение

при

.

. Выпишем дроби

. Первые две нам известны, и задача состоит в нахождении нужного остатка

(считаем пока

вз. простыми). Из предыдущего

. Обозначим функцию от двух вещественных переменных

. Любые ее положительные значения находятся рядом с рациональными точками искомых решений с целыми координатами. Теперь выхожу за пределы компетенции, если что - поправте.
Функция, на сколько понимаю, непрерывная с разрывом по линии

и нулем по линии

(можно рассматривать и

в силу симметрии). Тогда в каждой точке существуют "касательные плоскости", в том числе параллельные плоскости координат (пики). Определена

? Если нет - можно не продолжать. Посмотрел график

. Слегка напоминает горный хребет с вершинами, некоторые из которых превышают нулевые облака. Впрочем, нулевое значение производной мало бы что дало, поскольку большинство "пиков" остается в отрицательной области значения

. Но можно авантюрно предположить, что наиболее высоким вершинам соответствуют наиболее резкие подъемы и спуски, т.е. "пики" первой производной. Может, вторая производная о чем-то расскажет? Если она вообще не постоянная.
(Оффтоп)
'
