Мой посыл был в том, что зачем все эти искусcтвенные методы...
Да ладно. Подумал было, что Вам удалось свести дело к Гауссовой форме, которая решается обобщенным Пеллем. Хотел порадоваться за успех предприятия. Ну да, погорячился. Хотя, и это иллюзия, ведь наименьшие решения обобщенного Пелля находятся тем же перебором (поправьте, если ошибаюсь). Заглянул в step by step, там и конь не валялся. Просто Вы немножко усложняете дело, а сервис растягивает аж на

сессий, ищет алгебраические суммы, которые нам ни к чему. Методы мои кажутся искусственными тем, кто мало возился с цепными дробями (то есть всем )) Но боюсь, надежда осталась только на них. Если вопрос сводится к поиску наименьших квадратов по заданному модулю, серьезные люди убирают такие задачи в стол. Однако, давайте порассуждаем.
Процесс разложения квадратного радикала изучен хорошо. Как насчет обратной задачи? Имея на руках фиксированную рациональную точку

, можем ли точно сказать, какой радикал содержит ее в своем разложении? С целыми тут проще простого: возводим

в квадрат, смотрим соседние целые точки, проверяем их разложения. Целое

, к примеру, всегда содержится в разложениях

А вот

отсутствует в любых разложениях даже в качестве промежуточной дроби. Если же допустить дробное значением под радикалом, решений становится бесконечно много, но методика иная. Разложим

и продолжим дробь до палиндрома. Можно так

или так

, можно взять непереведённое

и продолжить до

а можно дополнить и "посторонним" палиндромом:

Остается выписать подходящие дроби и перемножить две последние:

Таким образом, обратная задача решается хорошо. Ну, а если взять сумму радикалов? Вещественная точка

есть корень уравнения с целыми коэффициентами

. Алгебраическое число. Процесс его разложения описан
здесь. Если известны

знаков разложения, то

-й знак вычисляется по формуле

Имея на руках параметры

и, если нужно,

, требуется сделать вывод о том, каковы

В сравнении с предыдущим главная сложность в том, что дробь не периодична. Кроме того, точность указанного выражения удовлетворительна только для достаточно большого

Но! Тут нам в помощь требование "лучшего приближения" из условия, которое до сих пор оказывалось скорее в нагрузку. В разложениях

и

совпадают

знака, для

— уже

и далее, уверен, по нарастающей. Еще одна неприятность в том, что

вовсе не должны быть взаимно просты, но выше было показано, что отношения

вполне достаточно для решения задачи, и дело может быть сведено к пропорции. О величине погрешности нам уже известно немало.
Что ж. Выходит, в первом случае обратная задача решается на пятерку, а тут затык... это как минимум странно. Просто она сложная. Или Вы хотели простую задачу?