Это уравнение Пелля, которое классически записывается в форме:

где в данном случае

.
Как решать такие уравнения описано много где. Например:
Cohen H. — Number Theory, Volume 1: Tools and Diophantine EquationsДля конкретных значений

можно также воспользоваться солвером:
http://www.alpertron.com.ar/QUAD.HTM-- Sun Feb 21, 2010 11:15:09 --Кстати, решениями данного конкретного уравнения относительно

являются целые числа вида

, где

- числа Фибоначчи. Более того, все подходящие

являются кратными некоторого числа, зависящего от

.