В верхнем уравнении приравняйте все скобки по-очереди к нулю.
Спасибо, уже пробовал.
Первые две скобки сводятся к первоначальному уравнению,
а

дает еще одну пару корней

, но она не удовлетворяет второму уравнению системы, так что отметается.
Насчет правильности условия.
Буду надеяться, что вы правы. Если вверху действительно закралась ошибка, то оно действительно оказывается несложным.
Благодарю за помощь.