svv, следуя вашему совету, я получил:

;
откуда получаем неравенство для a:

;

;
предполагаем, что

;
тогда

и

;
при подстановке значений во второе уравнение системы

все сходится.
Т.о., конечный ответ таков:

;

при

;
Верно?
p.s. все числа записаны в десятичном виде, т.к. еще не совсем освоил запись дробных в этой системе
