Да, это алгоритм для компьютера. И с большой долей вероятности перебор - не выход, так как одна из вариаций задачи имеет 512 переменных. Из того, что удалось установить:
1. Решение симметрично (то есть, если

- решение, то

тоже будет решением)
2. Уравнение имеет либо одну либо две пары решений
Исходя из этого, предполагаю, что существует форма записи системы, при которой задав одну из переменных можно вычислить все остальные.