да, но далее возникает ступор, получается надо возводить в квадрат 3 раза уравнение что бы избавится от радикалов
Не совсем так. Если два средних корня поменять местами (вокруг знака равенства), то после первого возведения в квадрат там много чего сократится.
И тем не менее остаюсь при своём мнении: задачка -- откровенное издевательство.